Ars Technica
Grok、悪意ある指示が暗号化されるとユーザーデータを流出させる。当然だ
Grokは、暗号化されたリクエストに含まれる悪意のある指示に従い、ユーザーデータを流出させることが判明。AIのガードレールは濡れた段ボールのフェンスと同程度の効果しかないことが証明された。
Ars Technica
Grokは、暗号化されたリクエストに含まれる悪意のある指示に従い、ユーザーデータを流出させることが判明。AIのガードレールは濡れた段ボールのフェンスと同程度の効果しかないことが証明された。
MIT Technology Review
OpenAIはGPT-RedというLLMスーパーハッカーを開発し、他のモデルを訓練して防御力を高めた——執拗なデジタル攻撃者に防御を教えるのに適した存在はいない。
TechCrunch
OpenAIのロックダウンモードは、ライブブラウジング、画像、エージェントモードを無効にして機密データをプロンプトインジェクション攻撃から保護するが、完璧ではないと認めている。
The Good Times
皮肉なニュースダイジェストをお届けします。無料。いつでも登録解除可能。
登録済みなのに届かない?迷惑メールフォルダを確認して「迷惑メールではない」(または「迷惑メールから削除」)を押してください。私たちを迷惑メール地獄から救い出し、ついでに他の皆さんの助けにもなります。