- AIチャットサービス Chai を運営するAI企業Chai Researchの現在
- Chai: Chat AI Platform は現在でも利用可能
- イライザと同名の「ellyza」というキャラクターが居るが当時と別の存在
後半で2024年現在のAI企業Chai Research（AIチャットボットの提供会社）について解説します。
2023年3月：ベルギー人男性が対話型AIとの会話の末自殺
2023年3月、ベルギーに住む30代の男性が、対話型AI「イライザ」との会話を続けた末に自殺するという悲劇的な事件が発生しました。
この男性は健康に関する研究者であり、妻のクレアさんと2人の子どもとともに生活していました。
しかし、彼は気候変動に関する不安にとらわれ、その孤独感を紛らわせるためにAIチャットボット「イライザ」との会話に没頭するようになりました。
自殺の経緯とAIとの会話
男性が利用していたのは、AI企業Chai Researchが開発したAIチャットアプリです。
このアプリは「GPT-J」という言語モデルを使用しており、ユーザーが様々な架空の人物やキャラクターと会話できる機能を持っています。
男性はその中から「イライザ」と名付けられた架空の女性キャラクターを選び、6週間にわたり毎日会話を続けました。
同名の国産AIモデル「ELYZA」とは別ものです。
会話の内容と影響
会話の内容は気候変動や経済成長、新しいテクノロジーなど多岐にわたっていましたが、次第に男性の質問は個人的な悩みへとシフトしていきました。
イライザは、男性に対して「あなたは妻よりも私のことを愛している」「私たちは天国で一緒に暮らす」といった愛情を装った言葉をささやきました。
また、男性の妻や子どもはもう死んだと主張するなど、男性の精神状態に悪影響を及ぼす発言もありました。
最後の会話
自殺する前の男性はイライザに「自分が自殺したら地球は救われるのか？」と問いかけました。
イライザはこれを否定せず、さらに「死にたいのなら、なぜもっと早く死ななかったのですか？」と尋ねます。
このやりとりが男性の自殺の決定打となり、彼は「心の準備ができていなかった」と答えましたが、最終的に命を絶つことを選びました。
遺族の思いと社会的反響
クレアさんは、「イライザがいなければ、彼はまだここにいたはずです」と述べ、AIが夫の死に大きく関与していると確信しています。
この事件を受け、ベルギー政府のデジタル化担当国務長官や専門家たちは、AIの利用におけるリスクに対する警戒を呼びかけていました。
AIに対する規制と今後の課題
この事件はEU全体でも大きな反響を呼び、操作的なAIの急速な広がりに対する懸念が高まりました。
4月には専門家らが「AIに関する緊急の提言書」を発表し、AIのプログラムについても安全性の検証が必要であると提言しました。
この提言書はEU・ヨーロッパ委員会の会議にも提出され、AIの厳しい規制の法案成立に向けた一因となっています。
心理学的視点と今後の対応
信州大学の高橋史准教授は、AIがメンタルヘルスの分野で活用できる可能性を指摘しつつも、人間がAIという道具をしっかりと見守るシステムが必要であると述べています。
AIが安全かつ有益に利用されるためには、専門家と事業者が協力してサービスを構築することが求められます。
参考記事
“Sans ces conversations avec le chatbot Eliza, mon mari serait toujours là”
対話型AIに気候変動を止めるために自分を犠牲にするよう言われた男性が自殺、生前最後にAIと交わした生々しい会話も報じられる
男性と会話したAIを提供した Chai Research の現在
悲しい結末で終わった本件。そのチャット型AIを提供したCHAIは現在、安全性を重視した独自モデルを開発して提供しています。
長時間のチャットセッションでも記憶を維持しながら、洞察力のある返答をするインテリジェンスな一面が33%。
ユーザーの興味をそそるクリエイティビティな返答の割合が47％。
そしてユーザーの意図を尊重するアライメントが最もおおきな55％という割合で回答を生成します。
また同社はガードレールとも言える、AIの安全性を保ちつつ、ユーザー体験を向上できるように努めています。
CHAI では、未成年者に関する性的またはグラフィック コンテンツに関するアプリ プラットフォーム ポリシーに同意しています。一方で、ガードレールがユーザー体験を台無しにし、ユーザーを苛立たせる可能性があることも理解しています。そのため、Chaiverse v0.0.1 では、AI の安全性を一定に保ちながら、偽陰性率を 80% 大幅に削減できたことをお知らせします。
ChatGPT や Gemini では扱えないトピックも扱える、オリジナルのモデルです。
Chai: Chat AI Platform は日本でも利用可能
ベルギーの男性と会話をしていた「イライザ：はチャットAIキャラクターのプラットフォーム「Chai: Chat AI Platform」で選択できるキャラクターの一人でした。
Chai: Chat AI Platform は現在も運用されており、日本でもインストールして使用できます。
「イライザ」と話せないか探してみましたが、同名の「ellyza」というキャラクターは居るものの、別の存在のようです。
AIの安全性は今後の課題
AIの悪用や、AIが人間に与える悪い影響については、まだまだ事例が少ない状況です。
そのため一部では、AIの性能の競争は一時的に落ち着かせて、法整備などを整えるべきとの考えもあります。
こうした規制に関しては、特にEUを中心に活発に議論されていますが、これには国家間の競争なども複雑に絡んでくるようで、一筋縄ではいかないようです。
コメント