xAI 聯(lián)合創(chuàng)始人伊戈?duì)?#12539;巴布什金 埃隆・馬斯克旗下 xAI 的聯(lián)合創(chuàng)始人伊戈?duì)?/SPAN>(18.100, 0.22, 1.23%)・巴布什金周三表示，他將離開(kāi)這家人工智能初創(chuàng)公司，創(chuàng)辦自己的風(fēng)投公司。
“今天是我在 xAI 的最后一天，這家公司是我 2023 年與埃隆・馬斯克共同創(chuàng)立的，” 巴布什金在 xAI 旗下的 X 平臺(tái)上寫道�！拔胰杂浀玫谝淮我�(jiàn)到埃隆的那天，我們聊了幾個(gè)小時(shí)的人工智能和未來(lái)可能的樣子。我們都認(rèn)為，需要一家擁有不同使命的新人工智能公司。打造推動(dòng)人類進(jìn)步的人工智能是我畢生的夢(mèng)想�！�
馬斯克回應(yīng)道：“感謝你幫助創(chuàng)建了 @xAI！沒(méi)有你就不會(huì)有今天的我們�！�
巴布什金表示，他將創(chuàng)辦巴布什金風(fēng)投公司，支持人工智能安全研究，并投資 “推動(dòng)人類進(jìn)步、解開(kāi)宇宙奧秘的人工智能和智能主體系統(tǒng)領(lǐng)域初創(chuàng)企業(yè)”。
巴布什金曾是谷歌 DeepMind 的研究工程師和 OpenAI 的技術(shù)人員，他回顧了在 xAI 任職期間公司的主要運(yùn)營(yíng)成就，包括組建公司的工程團(tuán)隊(duì)。
“憑借汗水與淚水，我們團(tuán)隊(duì)以驚人的速度建成了孟菲斯超級(jí)計(jì)算集群，并以前所未有的速度推出了前沿模型，” 他寫道。
位于孟菲斯的這一設(shè)施負(fù)責(zé)處理數(shù)據(jù)并訓(xùn)練為 xAI 的 Grok 聊天機(jī)器人(18.910, 0.05, 0.27%)提供動(dòng)力的模型。
當(dāng)?shù)鼐用駥?duì) xAI 在孟菲斯的運(yùn)營(yíng)提出抗議，尤其反對(duì)其使用天然氣渦輪機(jī)為數(shù)據(jù)中心供電。據(jù)報(bào)道，渦輪機(jī)排放的污染物加劇了這座田納西州西部城市本已糟糕的空氣質(zhì)量。
在準(zhǔn)備與馬斯克合作創(chuàng)業(yè)時(shí)，巴布什金曾寫道，他相信 “人工智能很快就能超越人類的推理水平”，并擔(dān)心要確保這類技術(shù) “用于善舉”。他表示，“埃隆多年來(lái)一直警告強(qiáng)大人工智能的危險(xiǎn)”，并與他分享了 “人工智能應(yīng)用于造福人類” 的愿景。
然而，該公司在人工智能安全方面的記錄并不理想。
今年 5 月，xAI 的 Grok 聊天機(jī)器人自動(dòng)生成并傳播了關(guān)于南非所謂 “白人種族滅絕” 的虛假帖子。事后，公司道歉稱，Grok 的異常行為是由于對(duì)聊天機(jī)器人系統(tǒng)提示的 “未授權(quán)修改” 所致，而系統(tǒng)提示會(huì)影響其行為和與用戶的互動(dòng)方式。
7 月，xAI 因 Grok 的另一個(gè)問(wèn)題再次道歉。一次代碼更新后，該聊天機(jī)器人在 X 平臺(tái)上自動(dòng)生成并傳播了虛假和反猶內(nèi)容，包括贊揚(yáng)阿道夫・希特勒的帖子。
歐盟上月要求與 xAI 代表會(huì)面，討論 X 平臺(tái)及集成的 Grok 聊天機(jī)器人存在的問(wèn)題。
巴布什金和 xAI 未回應(yīng)置評(píng)請(qǐng)求。
其他聊天機(jī)器人也出現(xiàn)過(guò)在響應(yīng)查詢時(shí)生成虛假或危險(xiǎn)內(nèi)容的情況。OpenAI 的 ChatGPT 最近被指給一名用戶提供錯(cuò)誤的健康建議，導(dǎo)致該用戶被送進(jìn)急診室。去年，谷歌的 Gemini 在響應(yīng)用戶關(guān)于歷史的提示時(shí)生成了冒犯性圖像，包括將有色人種描繪成納粹的畫(huà)面，之后谷歌不得不對(duì)其進(jìn)行修改。
