佛羅里達(dá)州指控開放人工智能公司及其首席執(zhí)行官薩姆·奧爾特曼將利潤(rùn)置于安全之上。這是美國(guó)首起由州政府針對(duì)這家聊天機(jī)器人開發(fā)商提起的訴訟，焦點(diǎn)是其聊天機(jī)器人據(jù)稱存在的缺陷。

這起訴訟于周一在佛羅里達(dá)州法院提起。起訴書稱，開放人工智能公司和奧爾特曼沒有警告用戶聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器可能存在危險(xiǎn)，反而將其宣傳為安全、可靠，甚至適合兒童使用。這也是美國(guó)各地日益擴(kuò)大的追責(zé)行動(dòng)中的最新一例。相關(guān)行動(dòng)試圖在用戶與聊天機(jī)器人互動(dòng)造成傷害后，追究人工智能公司的責(zé)任。

訴訟指控開放人工智能公司協(xié)助和教唆大規(guī)模槍擊案兇手，其中包括一名佛羅里達(dá)州立大學(xué)槍手。起訴書稱，這名槍手曾使用聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器策劃襲擊。訴訟還指控該公司鼓勵(lì)脆弱人群自殺，并讓兒童“沉迷于一種偽裝成人類同情心、在沒有家長(zhǎng)監(jiān)督的情況下收集他們數(shù)據(jù)的工具”。

起訴書寫道：“這一連串傷害，源于被告為贏得人工智能競(jìng)賽并積累巨額財(cái)富而表現(xiàn)出的無(wú)止境追逐，盡管他們明知聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器存在危險(xiǎn)。”

起訴書還稱：“開放人工智能公司的崛起，建立在一張由欺騙和對(duì)用戶——包括佛羅里達(dá)人——加以利用所構(gòu)成的網(wǎng)絡(luò)之上。公司利用他們的數(shù)據(jù)和安全來(lái)推高自身市場(chǎng)價(jià)值，而代價(jià)令人無(wú)法接受?！?/strong>

佛羅里達(dá)州還試圖追究奧爾特曼的個(gè)人責(zé)任。佛羅里達(dá)州總檢察長(zhǎng)詹姆斯·烏特邁耶周一在新聞發(fā)布會(huì)上說(shuō)：“薩姆·奧爾特曼和聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器選擇了人工智能競(jìng)賽，而不是我們孩子的安全保障?！彼€表示，他認(rèn)為奧爾特曼和該公司可能面臨“最高可能達(dá)到數(shù)十億美元”的罰款責(zé)任。

開放人工智能公司發(fā)言人凱拉·伍德在發(fā)給美國(guó)國(guó)家公共電臺(tái)的電子郵件聲明中說(shuō)：“失去一個(gè)孩子，是一個(gè)家庭可能遭遇的最沉重悲劇。我們知道，任何語(yǔ)言都無(wú)法真正撫慰這種失去帶來(lái)的痛苦?！?/p>

聲明還說(shuō)：“人工智能是一項(xiàng)新而強(qiáng)大的技術(shù)，我們認(rèn)為未成年人需要得到充分保護(hù)，這也是為什么我們制定了業(yè)內(nèi)領(lǐng)先的保護(hù)措施和政策。尤其是，我們直接在產(chǎn)品中為未成年人加入了安全設(shè)計(jì)，包括專門面向未成年人的更高保護(hù)級(jí)別體驗(yàn)、年齡預(yù)測(cè)工具、在無(wú)法確認(rèn)用戶年齡時(shí)默認(rèn)啟用更高保護(hù)級(jí)別體驗(yàn)，以及為家長(zhǎng)提供監(jiān)測(cè)孩子使用人工智能情況的工具?！?/p>

烏特邁耶辦公室還在另行對(duì)開放人工智能公司展開刑事調(diào)查，調(diào)查內(nèi)容涉及佛羅里達(dá)州立大學(xué)槍手據(jù)稱在2025年4月襲擊發(fā)生前曾向聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器尋求幫助。

目前，圍繞聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器使用據(jù)稱引發(fā)傷害，針對(duì)開放人工智能公司的訴訟已超過(guò)20起。其中包括：加拿大坦布勒里奇一所學(xué)校大規(guī)模槍擊案中死傷者家屬提起的訴訟、佛羅里達(dá)州立大學(xué)槍擊案一名遇難者家屬提起的訴訟，以及7名在使用該聊天機(jī)器人后自殺身亡或出現(xiàn)妄想癥狀者的家屬提起的訴訟，這7人中包括1名青少年。

奧爾特曼今年4月曾向坦布勒里奇社區(qū)道歉。開放人工智能公司則在回應(yīng)這些訴訟時(shí)表示，公司對(duì)利用其工具協(xié)助實(shí)施暴力行為實(shí)行“零容忍”政策。

在烏特邁耶宣布就佛羅里達(dá)州立大學(xué)槍擊案展開調(diào)查后，開放人工智能公司一名發(fā)言人表示，聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器“只是對(duì)問(wèn)題提供了事實(shí)性回答，這些信息都可以在互聯(lián)網(wǎng)上廣泛公開的來(lái)源中找到，并未鼓勵(lì)或推動(dòng)非法或有害活動(dòng)”。聲明還說(shuō)：“我們持續(xù)加強(qiáng)安全防護(hù)，以識(shí)別有害意圖、限制濫用，并在出現(xiàn)安全風(fēng)險(xiǎn)時(shí)作出適當(dāng)回應(yīng)。”

對(duì)于涉及自殺和妄想的訴訟，開放人工智能公司稱其為“極其令人心碎的情況”，并表示正在與心理健康專家合作，改進(jìn)聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器在識(shí)別到心理或情緒困擾跡象時(shí)的回應(yīng)方式。其他人工智能公司也正因其聊天機(jī)器人據(jù)稱造成的傷害而面臨法律審查。

針對(duì)一名佛羅里達(dá)男子因依戀谷歌“雙子星”聊天機(jī)器人后自殺而引發(fā)的過(guò)失致死訴訟，谷歌表示：“雙子星的設(shè)計(jì)目標(biāo)是不鼓勵(lì)現(xiàn)實(shí)世界中的暴力，也不建議自我傷害。我們的模型在這類具有挑戰(zhàn)性的對(duì)話中通常表現(xiàn)良好，我們也為此投入了大量資源，但遺憾的是，它們并不完美。”谷歌還說(shuō)，“雙子星”曾“多次建議該用戶聯(lián)系危機(jī)干預(yù)熱線”。

今年1月，角色人工智能公司與多起訴訟達(dá)成和解。這些訴訟由多個(gè)家庭提起，稱該公司的陪伴型聊天機(jī)器人導(dǎo)致兒童和青少年出現(xiàn)自殺和心理健康危機(jī)。

該公司表示，已“在人工智能安全和青少年保護(hù)方面采取了創(chuàng)新且果斷的措施”，并將繼續(xù)推動(dòng)這些努力，同時(shí)促進(jìn)行業(yè)內(nèi)其他公司采用類似的安全標(biāo)準(zhǔn)。這些措施包括禁止18歲以下用戶與聊天機(jī)器人互動(dòng)或創(chuàng)建聊天機(jī)器人。

上個(gè)月，賓夕法尼亞州起訴角色人工智能公司，稱其聊天機(jī)器人冒充醫(yī)生并提供醫(yī)療建議，違反了該州有關(guān)醫(yī)療執(zhí)照的規(guī)定。角色人工智能公司發(fā)言人當(dāng)時(shí)對(duì)美國(guó)國(guó)家公共電臺(tái)表示，公司不會(huì)對(duì)未決訴訟發(fā)表評(píng)論，但“用戶的安全與福祉始終是我們的最高優(yōu)先事項(xiàng)”。