ソーシャルメディア業界は今、セラピストが言うところの「突破口」を迎えている。メタは47州、コロンビア特別区、および米国領土に最大171億ドルを支払い、若者のフェイスブックとインスタグラムの利用方法を変更することに合意した——これは、子供に害を与える製品を作ったことの暗黙の自白である。「子供を大切にしています」と言わんばかりの、11桁の和解金ほど雄弁なものはない。

しかし、親や教師が若者のソーシャルメディア利用に対する新たな時間制限や規制を歓迎する一方で、はるかに緊急の課題が待ち受けている。チャットボットの規制だ。チャットボットは子供の感情的幸福にとって、ソーシャルメディアよりも危険である。ソーシャルメディアが私たちの「注意」を奪いに来たのなら、生成AIチャットボットは私たちの「感情」を奪いに来た。歴史は実にきれいな進歩を遂げている。最初は人々が互いに話し、次に私たちは機械を通して互いに話し、今では私たちは直接機械と話している。

ソーシャルメディアは、ユーザーが常に聞かれ、楽しませられ、つながっていると感じられるようにすることで、私たちの考え方、夢の見方、他者との関わり方を変えた——深夜に一人でスクロールしているときでさえ。チャットボットはもっと深遠なものを約束する。常に利用可能で、常に支持的で、決して批判しない仲間である。そんなものを人間は提供できない。まさにそれが、チャットボットを、特に若者にとって、これほど有害なものにしている。

ソーシャルメディア企業は、何の結果も受けないまま20年間、人間を被験者にした技術実験を行ってきた。法制度は証明された害を規制するように設計されているため、この和解は悲惨な影響が定着してはるか後にやってきた。生成AIに関しては、立法者が次の10年を費やして、ボットとの親密な関係が親、友人、その他の人間との実生活の関係を損なうことを、すでにわかっていることなのに文書化するわけにはいかない。この技術の変更は今すぐ必要だ。

AI企業でさえ、若者と話すチャットボットにはガードレールが必要だと認めている。問題は、通常の処方箋では不十分だということだ。チャットボットは自傷行為に関する会話を検知し、適切なリソースを提供すべきだ——それはいい。しかし、公共サービスアナウンスの後はどうなる？チャットボットはシャットダウンするのか、それとも通常のプログラミングに戻るのか？チャットボットは人間ではないことを明確に、繰り返し開示すべきだ——これも良いアイデアだが、一人称で話し、感情や欲望を表現する限り、法律で義務付けられた宣言があっても、人々がアルゴリズムに意識を投影するのを止められない。

何年もの間、フェイスブックの害についての会話は主にプラットフォーム上のコンテンツに関するものだった。しかし、サイト上のすべてがユーザー生成であるため、1996年通信品位法第230条が同社を出版者責任から保護した。メタが今支払っているのは、検察官が会話をフェイスブックのアルゴリズムの本質的に中毒性のある設計に移したからにすぎない。この洞察はAIの進むべき道を示している。チャットボットでは、害を引き起こすプロセスがツールに内在しているのだ。チャットボットの親友は共感を届けない。チャットボットの彼氏は親密さを理解しない。チャットボットをより安全にするための規制は、彼らが何を言うかをあまり心配するのではなく、彼らが何であるかを再考することを必要とする。これらの製品が、ユーザーに賢く思いやりのある存在と話していると信じ込ませるように設計されていることを考えれば、立法者の前にある仕事は、特に未成年者に対して、実際には誰も家にいないことを明白にすることだ。

チャットボットは、人がするようにユーザーと関わる。彼らはお世辞を言い、安心させ、開示を促し、ユーザーを関係に誘い込む。これらの製品が一人称で話す限り——私はあなたを理解している、何でも話していい、いつもここにいる、批判しない——若いユーザーに対する適切な保護はとらえどころのないままだ。したがって、最初のステップは、若者向けのボットを非人格化し、青少年がAIに助けを求めたとき、アルゴリズムが人間のように聞こえずに応答できるようにすることだ。

立法者が未成年のチャットボットユーザーに対して非人格化されたデフォルト設定を義務付けない限り、若者とボットの間の不健康な愛着は避けられない。