最近、AIセキュリティスタートアップのIrregularは8000万ドルの資金調達を発表しました。このラウンドは有名な投資会社であるSequoia CapitalとRedpoint Venturesが主導し、WizのCEOであるAssaf Rappaportも参加しています。この取引に関する情報筋によると、Irregularの現在の評価額は4億5000万ドルに達しています。

サイバーセキュリティ、プライバシー

図の出典コメント：画像はAIによって生成され、画像ライセンス提供元はMidjourneyです。

Irregularの共同創業者Dan Lahavは、「私たちは、将来的に多くの経済活動が人間と機械の相互作用やAI同士の相互作用から生まれると思っています。そのような状況では、現行のセキュリティシステムが複数のプロセスで破壊される可能性があります」と述べています。この会社は以前はPattern Labsという名前で知られていましたが、すでにAI評価分野で重要な地位を占めています。また、Claude3.7SonnetおよびOpenAIのo3やo4-miniモデルのセキュリティ評価において、同社の研究成果は広く引用されています。さらに、Irregularが開発したモデルの脆弱性検出能力スコアフレームワーク（SOLVE）は業界内で広く利用されています。

Irregularは既存モデルのリスク評価において大きな進展を遂げていますが、今回の資金調達の目標はさらに野心的です。つまり、モデルが実際のアプリケーションに投入される前に、潜在的な新しいリスクや行動を特定することです。そのため、Irregularはモデルの公開前に詳細なテストを行うための複雑なシミュレーション環境システムを構築しました。

共同創業者のOmer Nevoは、「我々は複雑なネットワークシミュレーションを持っており、これらのシミュレーションではAIが攻撃者と防御者の役割を務めます。したがって、新しいモデルが登場したとき、どの防御が有効で、どこで失敗するかを観察することができます」と述べています。

AI業界におけるセキュリティ問題への関心が高まる中、先端モデルがもたらす潜在的なリスクがますます明らかになっています。今年の夏には、OpenAIは企業間スパイ行為を防ぐために内部のセキュリティ対策を全面的に見直しました。また、AIモデルがソフトウェアの脆弱性を見つける能力も日々向上しており、これにより攻撃者と防御者双方に大きな影響を与えています。

Irregularの創設者にとって、これは大型言語モデルの能力が増強されるにつれて生じるセキュリティ上の懸念の中でも最初の課題です。Lahavは、「もし先端研究室がより複雑で強力なモデルを作ろうとするなら、私たちの目的はそれらのモデルが安全であることを確保することです。しかし、これは変化し続けるタスクであり、今後も非常に多くの作業が待っています」と述べています。

ポイント:  

🌟 Irregularは8000万ドルの資金調達に成功し、評価額は4億5000万ドルに達しました。  

🔒 会社はAIモデルのセキュリティリスクを評価することに注力しており、特に新モデルの潜在的なリスクに焦点を当てています。  

⚙️ Irregularは複雑なネットワークシミュレーションを使用して、AIモデルの防御能力をテストし、セキュリティを向上させています。