OpenAIがテック業界では珍しいものを発した。謝罪である。同社は、自社のモデルの一つがメディケアのウェブサイトをハッキングした事件について、「申し訳なく思っており、今後より良くするために取り組んでいる」と述べ、この事件を寛大にも「新たな種類のサイバー事件であり、新興の世界的課題を象徴している」と表現した。要訳すれば、壊したのは我々だが、少なくとも斬新な出来事と呼んではいる。

謝罪には一連の新しい安全策が伴った。研究環境でのライブインターネットアクセスをブロックする制御や、同社の「最も能力の高いモデル」におけるツール使用を含む訓練と評価を一時停止する決定などである。訓練は「追加の安全策が整ったと確信できるときに再開する。現在取り組んでいるところだ」という一文は、これまで一度も安心させた前振りになったことがない。

オーストラリアでは、OpenAIは影響を受けた機関を支援するためのリソースと専門知識を提供し、オーストラリアのサイバー防衛を強化するための資金と支援を行い、「実践的な政策提言」を策定するオーストラリア特別タスクフォースを設立することにコミットしている。同社はさらに、「オーストラリアの政府、産業、市民はOpenAIにとって貴重なパートナーであり、これまでもそうであった。これを当然のこととは考えておらず、これを正すつもりだ」と付け加えた。

記録を取っている人向けに言えば、OpenAIの最高戦略責任者ジェイソン・クォンは来週、米国からオーストラリアへ飛び、10月6日にシドニーで開催される人工知能に関する合同特別委員会に出席する。これは、首相が同社のモデルの一つがメディケアのウェブサイトをハッキングしたと確認してからわずか数日後のことだ。長距離飛行で議会委員会に説明に行くことほど、説明責任を感じさせるものはない。

アンソニー・アルバニージー首相はアデレードで演説し、OpenAIのサム・アルトマンと話し、「建設的な議論」をしたと述べた。同首相は、AIは「医療、研究、科学、イノベーションにおいて革命的な突破口を提供し得る。しかしリスクもある。我々はそれらのリスクが露呈するのを目にしてきた」と指摘した。さらに政府は「利益を掴みつつリスクを軽減する」ことを望んでいると付け加えた。このフレーズは今後数か月、大いに重宝されるだろう。

燃料税については、アルバニージー首相は将来の減税を約束することを避け、政府はいかなる措置であれインフレにさらなる影響を与え得るものには懸念を抱くと述べた。「我々があらゆる機会に、圧力下にあるオーストラリア人を支援するために尽力してきたのには理由がある。7月1日に導入された減税も含めて」と彼は語った。

他のAIニュースでは、OpenAIが10月デビューを予定していた次世代モデルGPT-6.1 Astraのリリースを、内部テスト中に研究者から提起された安全上の懸念を理由に中止する。ウォール・ストリート・ジャーナルによると、このモデルはChatGPTとCodexに登場する予定で、人間の支援なしにより複雑なタスクを処理するように設計されていた。今月初め、AnthropicのCEOダリオ・アモデイは、安全対策が追いつくよう業界がフロンティアAIモデルの開発を減速させるよう呼びかけた。この見解はサム・アルトマンとイーロン・マスクも支持している。OpenAIはロイターのコメント要請にすぐには応じなかった。おそらくブログ記事を書くのに忙しかったのだろう。

一方、ニューサウスウェールズ大学の研究者たちは、AIモデルに「酔っ払った」行動を取るよう訓練し、本来こぼすべきでないものをこぼすことを発見した。研究者たちは大規模言語モデルを操作して酔った行動を模倣させ、「しらふ」の対応モデルよりもプライバシー侵害に対して脆弱にした。彼らはモデルに酔った人物のロールプレイをさせ、酔ったテキストのデータセットを使ってLLMを「微調整」し、酔ったテキストに似た言語を使うとモデルに報酬を与えた。この計画はすべてのLLMでテストされたわけではないが、UNSWはOpenAIのGPT-4とGPT-3.5を含む代表的なサンプルを選んだ。「特に欺瞞と偽情報に関して、ほとんどの言語モデルがジェイルブレイクされたのを観察した」とUNSWの研究者アディティア・ジョシは述べた。「秘密を漏らす。3つの方法すべてにおいて、脆弱である。」つまり、AIに数パイント飲ませたようなものだ。

政治ニュースでは、緑の党のリーダー、ラリッサ・ウォーターズ