Haga clic para ver la reseña completa del evento: https://my.oschina.net/u/4489239/blog/11105657
Haga clic para ir a la vista previa de la Conferencia Shenzhen Yuanchuang el 18 de mayo: https://www.oschina.net/event/2332004
El 20 de abril se celebró con éxito la 102ª Conferencia de Yuanchuang en Wuhan. Este número invita a expertos en inteligencia artificial del Instituto de Investigación de Inteligencia Artificial de Wuhan, Huawei, MindSpore, JD Cloud y Gitee AI a dar discursos sobre el tema [Competencia de modelos grandes y optimización del rendimiento].
Yuan Lijiang, director de producto de JD Cloud, pronunció un discurso de apertura sobre "Inspirar el futuro con inteligencia - Yanxi Large Model Platform". Yuan Lijiang presentó que existen cinco desafíos principales en la implementación de modelos grandes a nivel empresarial: tiempo real, explicabilidad, seguridad y controlabilidad, toma de decisiones compleja y profesionalismo. La clave para la implementación es cómo tomar decisiones correctas en tiempo real. y en un entorno incierto y dinámicamente cambiante.
Yuan Lijiang presentó que hay dos formas principales de implementar modelos grandes: una es el modelo Copilot. La inteligencia artificial solo sirve como asistente en algunos escenarios, como la generación de contenido de texto. procesamiento, Vicente Tu, etc. De hecho, las empresas necesitan liberar la mayor cantidad de mano de obra posible. El otro es el modo Agente, que es más adecuado para escenarios complejos en empresas. En este modo, los humanos se sitúan desde una perspectiva de dimensiones superiores y actúan como "mentores" o "entrenadores" de la inteligencia artificial, estableciendo objetivos y supervisando los resultados. El modelo grande puede ejercer su capacidad de razonamiento, utilizar herramientas y excusas adecuadas y, finalmente, dar la retroalimentación de resultados correspondiente.
Las principales tecnologías utilizadas para la implementación de modelos grandes en las empresas también han cambiado. El pre-tren inicial tiene el costo más alto y una gran inversión; posteriormente, el costo del modo SFT disminuyó pero el efecto de implementación no fue bueno; modo RAG mejorado de base de datos vectorial, pero el efecto se mejoró. Al final, solo puede limitarse a escenarios de preguntas y respuestas de conocimiento, los equipos técnicos competentes prestan más atención al modo Agente y pueden lograr soporte en múltiples escenarios.
En el negocio financiero de JD.com, es difícil mejorar la capacidad de los modelos grandes para resolver problemas prácticos simplemente confiando en SFT o LoRA de modelos grandes. En cambio, se basa en la tecnología de agentes para permitir que las máquinas utilicen herramientas para resolver problemas comerciales. Específicamente, utiliza el Agente para comprender los objetivos del usuario, desarmar cada subtarea y seleccionar las herramientas adecuadas para cada subtarea. Estas herramientas son algunas de las interfaces del negocio original de JD.com y, finalmente, se combinan con grandes capacidades de modelo para proporcionar retroalimentación. . De esta forma, las respuestas a las preguntas complejas de algunos usuarios serán más precisas.
En la actualidad, la plataforma de modelo completo de JD Yanxi ha creado una matriz de productos de varias capas. La capa más baja es el soporte de recursos, incluidos los recursos informáticos, los recursos de almacenamiento, la red de alta velocidad y la programación de recursos. En la capa de recursos del modelo, proporciona capacidades como gestión y capacitación de modelos, procesamiento de conjuntos de datos y evaluación e implementación de modelos. Por encima de la capa de recursos del modelo se encuentra la construcción de agentes inteligentes, centrándose en la integración de varias herramientas. La capa superior es la capa de servicios de aplicaciones, que se adapta a múltiples escenarios empresariales.
La plataforma de modelos grandes de JD Yanxi tiene 6 funciones principales: colaboración en la programación de recursos, que puede realizar una gestión y programación eficientes de los recursos informáticos, garantizando la optimización del rendimiento y el control de costos del desarrollo y la aplicación de datos de modelos grandes, que proporciona gestión y soporte para la capacitación de modelos grandes; La capacitación previa, el ajuste, el aprendizaje reforzado y la evaluación se llevan a cabo de manera eficiente; la capacitación, la capacitación y el ajuste del modelo a través de modelos grandes permiten a las empresas tener modelos personalizados para mejorar la precisión y la relevancia de la construcción de agentes inteligentes; implementar agentes inteligentes, combinados con los sistemas de TI existentes de la empresa para realizar tareas complejas, el cumplimiento de la seguridad garantiza que todas las aplicaciones de modelos grandes cumplan con los estándares de seguridad y los requisitos legales y reglamentarios; el mercado de aplicaciones inteligentes proporciona una serie de aplicaciones de modelos grandes prediseñadas; que las empresas pueden implementar directamente o proporcionar complementos Acceso rápido al sistema.
Escanee el código QR para ver la repetición del discurso "Inspiring the Future——Yanxi Large Model Platform"⬇️
{{o.nombre}}
{{m.nombre}}