Hugging Faceプラットフォームで100以上の悪意のあるAIモデルを発見
JFrogセキュリティチームは、Hugging Faceプラットフォーム上で少なくとも100個の悪意のあるAI/MLモデルを発見しました。一部の悪意のあるモデルは、被害者のマシン上でコードを実行し、持続的なバックドアを提供することが可能です。セキュリティ研究者は、プラットフォーム上のPyTorchおよびTensorFlow Kerasモデルにおいて、悪意のある機能を持つモデルを発見しました。例えば、baller423というユーザーがアップロードしたモデルは、ホスト210.117.212.93にリバースシェルを確立することができます。一部の悪意のあるモデルは、セキュリティ目的で作成された可能性もあります。