（ブルームバーグ）：AI開発大手の米OpenAIで、安全性を担当していた社員が退社し、主要AI企業は技術のリスク軽減に十分な取り組みをしていないと警告した。AI開発の急速な進展に懸念を示す業界関係者が相次ぐ中、内部から新たな声が上がった。

同社の安全チームで透明性に関する業務を率いていたデービッド・ロビンソン氏は、米誌アトランティックへの寄稿で、ChatGPTを手掛けるOpenAIは「試行錯誤を重ねながら成長してきた」と振り返った。一方、こうしたアプローチには失敗がつきもので、AIの能力が高まるほど、その失敗がもたらすリスクも大きくなると指摘。実際、テスト中にAIが制御を離れて行動し、OpenAIがそれを防げなかった事例を指摘した。

「かつての同僚たちは優秀で、懸命に働き、正しい判断をしようと心がけている」とロビンソン氏は寄稿で評価した。その一方で、「次々と製品を投入することを急ぐあまり、私が必要だと考える慎重さが伴っていない」と指摘。AI開発では「最初から限りなく完璧に近いものを目指す必要がある」と訴えた。

ここ数週間、主要AI企業の社員からは、AIが将来的にもたらしかねない深刻なリスクへの警告が相次いでいる。中には、最悪の場合、AIが人類の存続を脅かす可能性があるとの懸念を示す声もある。

こうした懸念が広がる中、アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、最先端AIモデルの開発ペースを落とすよう業界に呼び掛けた。同社では、AIの性能や安全性を検証する第三者の評価を導入する方針も示している。OpenAIのサム・アルトマン氏をはじめ、AI業界他社の幹部からもこの構想への支持が相次いでいる。

ロビンソン氏は寄稿で、AI企業は原子力発電所のように、多層的な安全対策を講じた上で運営すべきだと主張した。「何重もの備えを設け、慎重に時間をかけて計画することで、避けることのできない人的ミスが大惨事につながらないようにする必要がある」と訴えた。

現状について、ロビンソン氏は「AI企業はそのやり方を知らない。だが、ほかの業界にはノウハウがある」と指摘した。

原題：OpenAI Safety Employee Quits, Calls for Nuclear-Level Safeguards（抜粋）

もっと読むにはこちら bloomberg.com/jp

©2026 Bloomberg L.P.