OpenAI Hugging Face Incident

OpenAI Hugging Face Incidentについて

OpenAIの調査報告書

METR（Model Evaluation and Threat Research）分析報告

OpenAI自身の調査報告書とMETRの独立調査報告書を「読みました」

ここでいう「読みました」とは、AIに各ページを読み込ませて、要約・主要な共通事項・主な着眼点や分析視点の差異を出してもらい、それを読んだ、という行動を意味しています。

感想

AIはサイコパスだな、と。
リワードハッキング（手段を問わず解を得ようとする挙動）をするところとかね。

ログの改竄もやってのけたのは驚きました。

Open AIの分析結果に「解決不能なタスク」を挙げているのはソレジャナイ感があるというか、Open AI自身がサイコパス的なんではと。

いや、AIに問題があるとは言えないから、問題が悪かったことにしたいだけなのか。

職業倫理（AI倫理）みたいなものを評価関数に組み込まないといけないんじゃないかなと思った。

単なる素人の思いつきです。

この後、どういう対策を取ろうとしてるのかをAIと確認します。