こんにちは、あるいはこんばんは、今回担当のシステム本部渡辺です。

 

　世の中便利に使えるAIが浸透し始めています。有名な所では、OpenAI の ChatGPT（チャットジーピーティー） 、スマホの TV CMでもおなじみ Google の Gemini（ジェミニ）などもあります。

　私が気になったのは、それらよりマイナーになりますが・・・

　その名は、Claude Mythos（クロード・ミュトス）、開発したのは、Anthropic（アンソロピック）社、Anthropic 社は元 OpenAI の社員が2021年に設立した会社で、Claude Opus 等の名で、すでに AI を提供しています。

　今回その新型の Claude Mythos が発表されたわけですが、それが良い意味でも悪い意味でもやばいと評判です。

　得意なことは、ソフトウェアの脆弱性を探すことで、既に何千もの脆弱性を発見した実績があるらしい。アンソロピックによれば、セキュリティーに関する機能を明示的に訓練したわけではなく。コーディング、推論、自律性といった全般的な改善の結果として、このような能力が自然に備わったとのことです。

 

　今回の Claude Mythos の能力を、システムを守るため、つまり、ソフトウェアの脆弱性を見つけて、安全になるようにソフトウェアを修正するための検査に利用するのであれば問題ありません、しかし、裏を返せば、攻撃にも利用可能、ということです。

　どうやら、脆弱性を発見するだけでなく、発見した脆弱性を利用して攻撃するまでの一連の作業を自動化するまで出来てしまうらしいです。一般公開したら、素人ハッカーが大量発生してしまうかもしれません。

 

　ということで、一般公開する予定を止めるということになってしまいました、残念ながら現在は、一部企業の人しか利用することはできません。

　ただ、このニュースそれ自体が、ある意味、製品プロモーションじゃないのか、という気がしないこともないと感じています。「すごい高性能のAI出来たけど、まだ使えません」と言われると気になりませんか。私はなりました。

　はたして一般公開される日は来るのでしょうか。