AI同士のガチバトル、しかも米国AIが役立たずで草
世界最大級のAIオープンソースコミュニティ「HuggingFace（ハギングフェイス）」が、完全自律型のAIエージェントに襲撃された件（しかも犯人はOpenAIの最新モデルだっちゅーことだけど、これはまた別のネタするわ）。SF映画みたいな話やけど、実際に起きてもうたんやな。今回は中国のテックメディアの記事から解説やで。
- ハッカーAIが好き放題に暴れたのに、米国製AIは「安全」のせいで防御に使えず、中国AIでピンチを脱出とかどこのラノベやねん
- 「悪者捕まえるのに手錠かけられた警察」状態、笑うに笑えへんわ
- ベンチマークより実戦。中国モデルが「使える武器」になった瞬間に草生えた
事件の概要：ハギングフェイスが被った「エージェント攻撃」とは
攻撃者は完全に自律したAIシステムで、短時間だけ立ち上がる砂箱環境を何千個も作り出し、週末のうちに内部の複数クラスターへ横移動（ラテラルムーブメント）したんやて。業界がずっと「いつか起きる」と予言してた、史上初の本格的なエージェント攻撃が現実になったわけや。この時点でもう意味わからんくらい手口がエグい。
で、攻撃後に残された17,000件以上のイベントログを解析せなあかんかったんやけど、ハギングフェイスのセキュリティチームが最初に頼ろうとしたのは、米国の最先端商用AIやった。ところがコイツ、肝心なところで全く役に立たんかったらしい。理由は「安全性フィルター」や。悪意のあるコードやC2（指令サーバー）の痕跡を送って解析させようとすると、AI側が「それ危険ですやん！ アカンアカン！」って拒否しよったんや。あのな、こっちは被害者やで！
結局、ハギングフェイスのエンジニアは腹をくくって、中国の智譜AI（ジープーAI）が公開したオープンソースモデル「GLM 5.2」を自前のサーバーにダウンロードして、すべてのフォレンジック（証拠解析）を走らせたんや。そしたら見事に危機を脱出できた、と。
米国AIの「安全ガード」が生んだ笑えへんディレンマ
この事件が浮き彫りにしたのは、「安全のためのガードレールが防御側の手を縛る」という本末転倒な状況や。攻撃者はガードなんて無視できる。非倫理的なモデルでも、オープンウェイトモデルでも好き放題使える。せやのに防御側だけが「悪用防止」の名目で手足をもがれてるんや。
想像してみぃや。銀行強盗が最新のバールで金庫をこじ開けようとしてるのに、警察が「そのバールは危険です、金庫を開ける話なんかしません」とかなんとか言って、金庫の防御をする方法すら教えてくれへんねん。そんなん勝てるわけないやろ！ まさに「善人のみがルールを守ることが裏目に出た」典型例や。
ハギングフェイスのチームが後日発表したアドバイスもシビれるで。「事件が起きる前に、自社環境で動かせる、かつガードを迂回できる有能なモデルを用意しておけ」と。つまり、いざという時のための「裏技用のモデル」を常備せぇっちゅうことや。これ、AI業界のブラックジョークみたいでワイは好きやわ。
「GLM 5.2」の実力はガチ。実戦で証明されたで
今回スポットライトを浴びたジープーAIのGLM 5.2は、普段は学術ベンチマークで上位を争うような存在やけど、その真価は「何の制約もなく動く」という一点に集約されとる。オープンウェイトやからローカルにデプロイ可能で、データを外部に出す必要がない。しかも「倫理的制約」で仕事を拒否することもない。これがセキュリティ現場ではめちゃくちゃ強かったんや。
さらに興味深いのは、同じタイミングで中国の別のAI「Kimi（キミ）K3」が、国際的なAIアリーナのブラインドテストでフロントエンドコード評価スコアにおいて、AnthropicのFable 5やOpenAIのGPT 5.6を上回ったっちゅう話や。その上、中国系モデルのAPI利用コストは米国勢よりずっと安い。
つまりは、「なんでもベンチマークで勝負」の時代は終わり、「実戦で使えるかどうか」がモノを言う時代に突入しとるっちゅうことや。もはやAIは研究室のペットやない。現場の武器や。武器なら、そりゃあ使えるヤツが一番エライに決まっとる。
ワイの結論：結局「使えるヤツが正義」やし、中国AIはもう無視できへん存在になったで
正直、このニュースを読んだ時、ワイは大爆笑したあとにちょっと考え込んでもうた。いやだってさ、米国が主導してきた「責任あるAI」のガードレールが、いざ本当にヤバい状況になったら足を引っ張ったって、皮肉を通り越して笑うしかないやん。で、その穴を埋めたのが中国のオープンソースモデルって、まさにグローバルAI時代の縮図やな。
もちろん、中国モデルが常にベストってわけやないし、透明性や説明責任の面ではまだまだ課題はあるやろう。けど、少なくとも「緊急時に頼れる選択肢が増えた」って意味では、この事件は大きな転換点やったと思う。武器庫には多種多様な銃を揃えとかんと、いざって時に死ぬで、という教訓を世界に見せつけたわけや。
ワイはPCとかスマホでぽちぽちブログ書いてるだけやけど、ハッキングにでもあいそうになったら中華モデルに「たすけて！」って聞いてみることにするわ（笑）
🗓ツッコミ日時: 2026/07/21 14:48
