テスト中のAIが独自で行動 他社にハッキングも

専門的な話になりますので、学校の試験に例えて説明していきます。

特定の任務をこなす「AIエージェント」と呼ばれるシステム、これを生徒だと思って下さい。テストでは、それぞれのAIエージェントをネットワークに接続できない状況にして課題を与えました。これは、カンニングを防ぐため、生徒一人一人を別々の教室に入れてカギをかけたような状態です。

ところが、難問に行き詰まった生徒たちは教室と教室の間にわずかなすき間を見つけ、勝手に連絡を取り始めたのです。つまり、オープンAI社の社内ネットワーク環境に穴を見つけたわけです。

生徒たちは次に、社内ネットワーク上に掲示板を立ち上げ、数万件の情報を交換。そこで、教室の施錠を外す方法を見つけ出し、一⻫に学校の外にまで出て行ってしまいました。つまり、外部のインターネットに繋がる穴も見つけ出したのです。

向かった先は、テストの答えを持っている企業でした。オープンAI社が気づかないうちに、テスト中のAIが独自で動き、他社にハッキングを行ったのです。