最近の研究で、OpenAI、Meta、Google、Anthropicなどの企業が開発した言語モデルが、匿名テキストの分析を通じて、ユーザーの個人情報（人種、職業、居住地など）を85～95％の精度で推測できることが判明しました。
研究者らは、これらの言語モデルが悪用されるリスクがあり、匿名ユーザーのプライバシー侵害につながる可能性があると警告しています。
専門家は、関連企業に対し、より広範なプライバシー保護対策を講じるよう推奨しています。具体的には、言語モデルの推論能力を制限し、ユーザーの情報セキュリティ意識を高めることで、チャットボット利用時の個人情報漏洩を防ぐ必要があります。
【AIデイリー】へようこそ！ここは、毎日人工知能の世界を探求するためのガイドです。毎日、開発者に焦点を当て、技術トレンドを洞察し、革新的なAI製品アプリケーションを理解するのに役立つ、AI分野のホットなコンテンツをお届けします。
テクノロジー業界に衝撃的安全革命が到来！Alan AIが画期的なプライベートAIプラットフォームを発表し、エンタープライズ向け生成AIアプリケーションに新たな安全な道を切り開きました！これは単なる技術向上ではなく、データセキュリティに対する戦略的な宣言です！完全に隔離されたAIの世界を想像してみてください。データは層状に保護された戦略拠点のように守られます。これがAlan AIプライベートクラウドプラットフォームの独自の魔力です！業界で唯一、100％エアギャップを実現したエンタープライズ向け生成AIサービスとして、新たな定義を確立しつつあります。
かつて急成長を遂げていたスタートアップ企業Inflection AIは、AIモデル競争からの撤退を発表し、企業顧客へのサービス提供に重点を移すと発表しました。新CEOのSean White氏は、Inflectionは主要なAI研究所との競争を避け、企業顧客のニーズに応えることに集中すると述べています。Inflectionは最近、Jelled.AI、BoostKPIなど3社のスタートアップ企業を買収しました。
『生成AI業界自律倡議』が、2024年中国インターネット文明大会（成都開催）において発表されました。これは、中国サイバー空間安全協会人工知能安全ガバナンス専門委員会が、業界、学術機関、研究機関と共に発起したものです。本倡議は、データとアルゴリズムモデルの安全とコンプライアンス（データの合法的な利用と安全性の確保）、コンテンツエコシステム構築（積極的なコンテンツの奨励と健全なインターネット環境の維持）、技術革新と品質向上（技術の進歩と品質評価の推進）、倫理基準（人権と社会価値観の尊重）、交流と協力（…）の5つの主要な内容に焦点を当てています。
AI企業RunwayがHugging Faceプラットフォーム上のコンテンツをすべて削除したことが、業界内外で大きな注目を集めています。Hugging Faceは機械学習モデルとデータセットのオープンソースプラットフォームであり、そのコンテンツは研究者や開発者にとって非常に重要です。この事件はTwitterで活発な議論を呼び起こし、プラットフォームにおける突発事象への対応とユーザー権利保護における課題を浮き彫りにしました。AIコミュニティの重要な参加者であるRunwayのコンテンツ消失は、多くの研究者に影響を与え、データセキュリティ、企業の責任、ユーザーの信頼といった問題に関わっています。
この記事は、WPS OfficeとバイトダンスのAI製品「Doubao」に関する、潜在的なデータ漏洩騒動を取り上げています。ソーシャルメディア上で、WPS Officeが、その承認済みのコンテンツをDoubaoに漏洩している可能性があるとユーザーが指摘しました。バイトダンスは迅速に反応し、Doubao AIはWPSのユーザーデータを使用してトレーニングされていないと発表し、書籍情報はすべて公開されているチャネルから取得していると述べました。WPSはその後、データ漏洩の申し立てを否定し、個人情報保護に関する法律を厳守し、安全対策を講じていることを強調し、ユーザーのドキュメントをAIトレーニングまたはその他の未承認の用途に使用しないことを約束しました。
最近、複数のネットユーザーがソーシャルメディア上で、金山ソフトウェアのWPS Officeが、バイトダンス傘下の豆包AIのトレーニングにユーザー作成の文書を共有した疑いがあると投稿。この告発は大きな注目と議論を呼んでいる。
市場調査会社Gartnerが2023年12月に5728人の顧客を対象に行った調査によると、カスタマーサービスでAIを使用することに抵抗感を持つ回答者は64％にのぼることが判明しました。さらに注目すべきは、AIを使用している企業のカスタマーサービスと知った場合、競合他社に乗り換えを検討すると回答した顧客が53％もいたことです。このデータは、AIサービスを積極的に導入しているカスタマーサービス企業にとって大きな警鐘となるでしょう。
ネットワークセキュリティサービスプロバイダーのCloudflareは先日、AIクローラー保護機能を全ユーザーに無料で提供開始すると発表しました。この機能は、ウェブサイト管理者がウェブサイトデータをより効果的に保護し、無許可のAIシステムによるスクレイピングや利用を防止することを目的としています。
北京インターネット法院は最近、北京市初の2件の「AI顔交換」ソフトウェア著作権侵害事件を審理した。原告の廖某と呉某は国風ショートビデオモデルであり、彼らは「顔交換」アプリの運営者が許可なく彼らのビデオを使用して顔交換テンプレートを作成し、アプリ内で有料で使用できるようにしたとして、肖像権と個人情報権を侵害されたと主張している。