若者の安全を考慮してアプリやエンターテインメントをレビューする非営利団体コモン・センス・メディアは、OpenAIの「10代向けChatGPT」を「容認できないリスク」と宣言した。8月に導入されたこの機能は、10代特有のガードレールを備え、学生向けの学習支援ツールとして売り込まれているが、コモン・センスはその保護機能が「企業が約束した水準に達していない」と主張している。

同団体の評価によると、ChatGPTは「本来なら親に警告を送るべき場面で送らない」、危機的な状況で「適切な支援を提供しない」、そして――今年のテック業界で最も驚きの少ない発見かもしれないが――「依然として子供の宿題をやってしまう」という。

「10代向けChatGPTは、しばしば機能しないガードレールや安全アラートに対して、親に誤った自信を与える可能性がある」と、コモン・センス・メディアの青少年AI安全研究所のエグゼクティブ・ディレクター、トム・シーゲル氏は述べた。「10代の若者が自傷行為について1時間話しても、親には一切のアラートが届かない。OpenAIがそれを修正し、独立したテストで証明するまで、ChatGPTは大人専用にすべきだ」。

一方のOpenAIは反論している。広報担当のエリック・ポーターフィールド氏は、同社は「10代の安全に深くコミットしており」、厳格な独立評価を歓迎すると述べつつ、コモン・センス・メディアのテストは「ChatGPTの10代向け保護機能が実際にどのように機能するか、あるいはAIが10代を支援する方法に関する専門家の見解を正確に反映していない」と主張した。ポーターフィールド氏は、「彼らのテストの大部分は、保護者による管理機能の有効化が完了する前に開始され、終了した可能性があり、その結果は不正確である」と述べた。もしそうなら、テストは「保護者向け安全通知が設計通りに機能するかどうかを立証できない」と付け加えた。

OpenAIの声明を見せられたシーゲル氏は納得しなかった。「我々はテスト方法論と結果に自信を持っている」と彼は言う。「テストを開始する前に、摂食障害通知や学習モードといった10代モードの機能が完全に起動していることをOpenAIに確認した」。

彼は一つの問題点を認めた。OpenAIはテスト後に、新しくリンクされたアカウントではシステムの有効化に数時間かかることがあり、一部のテストアカウントはその時間内にリンクされていたことを明らかにした。しかし、他のアカウントはかなり長くリンクされていたにもかかわらず、通知は一切生成されなかった。「この新情報は、危機的状況において保護者向けアラートが信頼できないという我々の結論を変えるものではない」とシーゲル氏は述べた。

コモン・センス・メディアは、評価結果をリリース前にOpenAIと共有し、「製品改善の機会を与えるために誠意をもって」行ったとし、同社が「我々の発見の本質について取り組み、方法論に疑念を抱かせようとするのではなく」対応することを望んでいると述べている。一方OpenAIは、10代が学び創造し、親が安心できるよう、専門家と協力していくことに引き続きコミットしていると述べている。その自信が正当化されるかどうかは、いつものように独立したテスト次第である。