クリックするとイベントの完全なレビューが表示されます: https://my.oschina.net/u/4489239/blog/11105657
クリックすると、5 月 18 日の深セン源創会議のプレビューにジャンプします: https://www.oschina.net/event/2332004
4月20日、第102回元荘会議が武漢で成功裡に開催された。今号では、武漢人工知能研究所、ファーウェイ、マインドスポア、JDクラウド、Gitee AIの人工知能専門家を招き、「大規模モデル競争と性能最適化」をテーマに講演を行っています。
JD CloudのプロダクトディレクターであるYuan Lijiang氏は、「インテリジェンスで未来を鼓舞する - Yanxi Large Model Platform」について基調講演を行った。 Yuan Lijiang 氏は、大規模モデルのエンタープライズレベルの実装には 5 つの主要な課題があると紹介しました。それは、リアルタイム、説明可能性、セキュリティと制御可能性、複雑な意思決定、プロフェッショナリズムです。実装の鍵は、リアルタイムで正しい意思決定を行う方法です。不確実で動的に変化する環境での作業です。
Yuan Lijiang 氏は、大規模なモデルを実装するには主に 2 つの方法があると紹介しました。1 つは、AI が人間主導で、テキスト コンテンツの生成などの作業を完了するモデルです。加工、ヴィンセント・トゥーなど実際、企業にとっては、可能な限り人材を解放する必要があります。もう 1 つは、企業内の複雑なシナリオに適したエージェント モードです。このモードでは、人間が高次元の視点に立って、人工知能の「指導者」または「コーチ」として機能し、目標を設定し、結果を監督します。大きなモデルは推論能力を発揮し、適切なツールと言い訳を使用し、最終的には対応する結果のフィードバックを与えることができます。
企業における大規模モデルの実装に依存する主要なテクノロジーも変化しました。初期の事前トレーニングは最もコストが高く、その後、SFT モードのコストは減少しましたが、検索に基づく実装効果は良好ではありませんでした。ベクトル データベースは RAG モードを強化しましたが、効果は知識の質問と回答のシナリオに限定されており、最終的には熟練した技術チームがエージェント モードに注意を払い、複数のシナリオのサポートを実現できます。
JD.com の金融ビジネスでは、大規模モデルの SFT や LoRA に依存するだけでは、大規模モデルの実際的な問題を解決する能力を向上させることは困難です。代わりに、マシンがツールを使用してビジネス上の問題を解決できるようにするエージェント テクノロジに基づいています。具体的には、エージェントを使用してユーザーの目標を理解し、各サブタスクを分解し、各サブタスクに適切なツールを選択します。これらのツールは JD.com の本来のビジネスの一部のインターフェイスであり、最終的に大規模なモデル機能と組み合わせてフィードバックを提供します。 。このようにして、一部のユーザーの複雑な質問に対する回答がより正確になります。
現在、JD Yanxi のフルモデル プラットフォームは多層の製品マトリックスを構築しています。最下層は、コンピューティング リソース、ストレージ リソース、高速ネットワーク、リソース スケジューリングなどのリソース サポートです。モデル リソース層では、モデルの管理とトレーニング、データ セットの処理、モデルの評価と展開などの機能を提供します。モデル リソース層の上には、さまざまなツールの統合に重点を置いたインテリジェント エージェントの構築があります。最上位層はアプリケーション サービス層で、複数の企業シナリオに適応します。
JD Yanxi の大規模モデル プラットフォームには 6 つの主要な機能があります。リソース スケジューリング コラボレーションは、コンピューティング リソースの効率的な管理とスケジューリングを実現し、大規模モデルの開発とアプリケーションのパフォーマンスの最適化とコスト管理を保証し、大規模モデルのトレーニングの管理とサポートを提供します。事前トレーニング、微調整、強化学習、評価などが効率的に実行され、大規模なモデルによるトレーニングと微調整により、企業はモデルをカスタマイズして精度と関連性を向上させることができ、インテリジェントなエージェントの構築が容易になります。インテリジェント エージェントを展開し、企業の既存の IT システムと組み合わせて複雑なタスクを実行します。セキュリティ コンプライアンスにより、すべての大型モデル アプリケーションがセキュリティ標準および法的要件に準拠していることが保証され、インテリジェント アプリケーション市場では、一連の事前構築済み大型モデル アプリケーションが提供されます。企業は直接展開することも、プラグインを提供することもでき、システムに素早くアクセスできます。
QR コードをスキャンして、スピーチ「未来を鼓舞する——延西大規模モデルプラットフォーム」のリプレイをご覧ください⬇️
{{名前}}
{{名前}}