イリノイ大学アーバナ・シャンペーン校の研究チームは、大規模言語モデル（LLM）のトレーニングデータにコードを統合することの利点に関する研究を発表しました。
この研究では、コードによる事前学習がLLMにどのような影響を与えるかを概説し、インテリジェントエージェントとしてのLLMの役割を追跡しています。コードを統合することで、モデルはタスクをより正確に実行できるようになり、外部知識や多様なモダリティデータを取得する能力を備えることができます。
しかし、フィードバック信号の選択には注意が必要です。ノイズの多いプロンプトは、下流タスクにおけるモデルのパフォーマンスに影響を与える可能性があるためです。
さらに、研究者らは、トレーニングデータにおいてコードの特性を強化することで、モデルの推論能力を直接向上させることができると考えています。この研究は、モデルの推論能力をさらに強化するための多くの機会を提供しますが、同時に、モデルがさまざまな機能端末に接続される際に直面する課題にも対処する必要があります。
【AIデイリー】へようこそ！ここは、毎日人工知能の世界を探求するためのガイドです。毎日、開発者に焦点を当て、技術トレンドを洞察し、革新的なAI製品アプリケーションを理解するのに役立つ、AI分野のホットなコンテンツをお届けします。
百度Create AI開発者会議が北京で開催されました。この注目を集めるテクノロジーイベントで、百度は文心快码3.5バージョンと、国内初のマルチモーダルAIプログラマーである文心快码Comate Zuluインテリジェントエージェントを正式にリリースし、AIプログラミングツールの新たな発展段階への到来を示しました。
サイバーセキュリティ研究者らが警告を発しています。新たなソフトウェアサプライチェーン攻撃である「Slopsquatting」が水面上に現れました。この攻撃は、生成AI（LLMなど）がコード作成時に起こりうる「パッケージ幻覚」――存在しないパッケージ名を推奨する現象――の脆弱性を突きます。攻撃者はこれらの架空の名称を先取り登録し、悪意のあるコードを埋め込むことができます。画像注記：画像はAIによって生成され、画像ライセンス提供業者Midjourneyから提供されています。研究チームは、AIがでっち上げたパッケージ名はしばしば非常に類似性が高いことを発見しました。
先日開催された百度Create開発者会議において、百度創設者の李彦宏氏は、AIアプリケーションの急増期を積極的に受け入れ、開発者への全面的な支援を提供するための、一連の重要なAI開発計画と施策を発表しました。百度検索オープンプラットフォームは正式に「AI開放計画」(sai.baidu.com)を発表し、多様なコンテンツとサービスの配信メカニズムを構築することで、ユーザーにより包括的なAIサービスを提供することを目指しています。この計画は、インテリジェントエージェント、H5、ミニプログラム、独立アプリなど、さまざまな形態を対象としています。
NVIDIA AIチームは、画像とビデオの精密で領域に特化した説明を生成するために設計された、画期的な多モーダル大規模言語モデル「Describe Anything 3B」（DAM-3B）を発表しました。このモデルは、革新的な技術と卓越した性能により、多モーダル学習分野で大きな話題となり、AI技術発展の新たなマイルストーンとなっています。以下、AIbaseが本モデルの主要なハイライトと業界への影響を整理します。領域特化型説明におけるブレークスルーDAM-3Bは、その比類なき能力で注目を集めています:特定の領域を…
AWS AI Labsは最近、SWE-PolyBenchを発表しました。これは、AIプログラミングアシスタントの評価のためのより包括的なフレームワークを提供することを目的とした、多言語対応のオープンソースベンチマークです。大規模言語モデル（LLM）の進歩に伴い、コードの生成、修正、理解を支援するAIプログラミングアシスタントの開発は目覚ましい進歩を遂げています。しかし、現在の評価方法は依然として多くの限界があり、多くのベンチマークはPythonなどの単一言語に焦点を当てており、包括的な評価ができていません。
