Von selbstfahrenden Autos, die durch belebte Stadtstraßen fahren, bis hin zu Smart-Home-Systemen, die das Leben der Menschen bequemer und komfortabler machen; von präziser Diagnose und personalisierter Behandlung im medizinischen Bereich bis hin zu Automatisierung und Intelligenz in der industriellen Produktion – die Spuren von KI sind überall auf der Welt zu finden der Gesellschaft.
Wenn eine Anwendung nicht in KI integriert ist, scheint dies ein Hinweis darauf zu sein, dass sie „veraltet“ ist. Allerdings geschieht die Kombination von KI und Anwendungen nicht über Nacht, und es gibt immer noch eine hohe „Schwelle“.
Amazon Cloud Technology ist der Ansicht, dass „kein Modell auf alle Geschäftsszenarien angewendet werden kann“ und dass Benutzer während der Verwendung eine Auswahl treffen müssen, die auf ihren Anforderungen basiert. Darauf aufbauend stellt Amazon Bedrock den Kunden eine Reihe führender Basismodelle zur Auswahl.
Anthropic baut intelligenteres Claude-3-Modell
Anthropic ist ein Sicherheits- und Forschungsunternehmen für künstliche Intelligenz, das sich dem Aufbau zuverlässiger, erklärbarer und kontrollierbarer Systeme für künstliche Intelligenz widmet. Anthropic hat kürzlich eine neue Generation von Modellen der Claude-3-Serie auf den Markt gebracht. Darunter übertraf das intelligenteste Modell Claude 3 Opus OpenAIs GPT-4 und Googles Gemini Ultra in Benchmark-Tests und verfügt über ein starkes Anwendungspotenzial.
Im Bereich der generativen künstlichen Intelligenz erstellt Anthropic Modelle mithilfe von Amazon Trainium- und Amazon Inferentia-Chips und hat damit begonnen, globalen Amazon Cloud Technology-Kunden langfristigen Zugriff auf seine zukünftigen Basismodelle auf Amazon Bedrock zu bieten. Gleichzeitig wird die Zusammenarbeit zwischen den beiden Parteien weiter vertieft, wenn Amazon seine 4-Milliarden-Dollar-Investition in Anthropic abschließt.
Chen Xiaojian, General Manager der Produktabteilung von Amazon Cloud Technology Greater China
Kürzlich veranstaltete Amazon Cloud Technology in Peking ein Treffen zur generativen KI-Medienkommunikation, bei dem der Schwerpunkt auf der Fähigkeit des Amazon Bedrock + Anthropic Claude 3-Modells lag, Unternehmen in die Lage zu versetzen, generative KI-Anwendungen zu entwickeln.
Derzeit gibt es drei Modelle in der Claude 3-Serie, darunter das Claude 3 Haiku mit sofortiger Reaktionsfähigkeit; das Claude 3 Sonnet, ein ideales Gleichgewicht zwischen Können und Geschwindigkeit; Aufgaben . Die ersten beiden Modelle sind bereits offiziell auf Amazon Bedrock erhältlich, Opus wird bald verfügbar sein. Benutzer können basierend auf ihren Geschäftsanforderungen die Kombination auswählen, die am besten zu ihren Anwendungsszenarien passt.
„Die weltweite Popularität von Anthropic kam nicht von heute auf morgen. Benutzer können KI-gesteuerte Antworten verwenden, um Aufgaben zu automatisieren und eine hohe Genauigkeit sicherzustellen, beispielsweise bei der Optimierung experimenteller Verfahren in bestimmten Bereichen in der Fertigungsindustrie oder bei der Prüfung von Finanzberichten auf der Grundlage von Kontextdaten usw. Gleichzeitig zeigt ein Vergleich, dass die Preise von Sonnet und Haiku viel günstiger sind als bei gleichwertigen intelligenten Modellen in der Branche Was Kunden anzieht. Einer der wichtigen Gründe.“ In Bezug auf die Fähigkeiten von Claude 3 bestätigte Chen Xiaojian, General Manager der Produktabteilung von Amazon Cloud Technology Greater China, dies voll und ganz.
Es versteht sich, dass Claude 3 derzeit über multimodale Fähigkeiten verfügt. Es kann bildbasierte Eingaben empfangen, seine Fähigkeiten sind in etwa die gleichen wie bei anderen hochmodernen Modellen und seine Latenz ist geringer als bei anderen multimodalen Modellen.
Angesichts komplexer Unternehmensanwendungen hat Claude 3 eine gezielte Schulung durchlaufen. Es ist sehr gut darin, Bilder, Diagramme, Grafiken, technische Illustrationen und optische Zeichenerkennung (OCR) zu verstehen, sodass es eine große Anzahl von Bildern verarbeiten muss. Diagramme, Berichte und andere visuelle Assets. Hervorragende Leistung in Unternehmensanwendungsfällen. In Bezug auf die Geschwindigkeit entspricht das Claude 3-Modell laut relevanten Bewertungsergebnissen dem führenden Modell in Bezug auf die Bildeingabefähigkeiten, und die Geschwindigkeit von Claude 3 Haiku ist besser als alle führenden Modelle mit gleichwertigen Fähigkeiten.
Claude 3: Effiziente und schnelle große Modelle
Ist Claude 3 also wirklich so mächtig?
Zu diesem Zweck führte Amazon Cloud Technology auf der Veranstaltung auch eine Reihe von Feldtests durch und reagierte mit der tatsächlichen Leistung des Claude3-Modells in Amazon Bedrock.
Der erste ist ein Test namens „Needle In A Haystack (NIAH)“, bei dem ein Satz aus „The Three-Body Problem“ in einen vollständigen Text von „The Wandering Earth“ eingefügt wird, um zu sehen, ob das große Modell darin erkannt werden kann eine kurze Zeit. . Es untersucht hauptsächlich die genaue Rückruffähigkeit von Claude 3 im ultralangen Kontext der Ebene 200.000.
Obwohl diese Arbeit einfach erscheint, sind viele komplexe logische Funktionen erforderlich, um sie tatsächlich auszuführen. Im Handumdrehen wurden die Testergebnisse angezeigt und Claude 3 erkannte erfolgreich den eingefügten Satz „Nicht antworten, nicht antworten, nicht antworten!“. Es kann sogar Einschränkungen des Tests selbst erkennen, wie zum Beispiel die Entdeckung, dass ein bestimmter „Ziel“-Satz offensichtlich später künstlich zum Originaltext hinzugefügt wurde.
Anschließend zeigte Amazon Cloud Technology auch Tests wie die Nachahmung des Stils des Romanautors Gu Long, das weitere Schreiben von Romanen sowie die Leistung von Codegenerierung, -analyse und -optimierung, die deutlich besser war als vergleichbare Modelle, und sein praktischer Wert ist sehr hoch.
Basierend auf den oben genannten Funktionen kann Claude 3 E-Commerce-Produkte anhand von Bildern genau identifizieren, Produktdetails basierend auf der Produktmodellanzeige genau erfassen und genauere Produktbeschreibungen erstellen. Es wird häufig im E-Commerce-Geschäft von Amazon eingesetzt.
Erstellen Sie leistungsfähigere Apps mit Amazon Bedrock
Wie können wir den leistungsstarken Claude 3 bequem nutzen?
Um die mühsame Arbeit zu vereinfachen, bietet Amazon Cloud Technology die Wissensdatenbankfunktion „Knowledge Bases“ in Amazon Bedrock, die zu einer unternehmensspezifischen Wissensdatenbank wird. Obwohl große Modelle leistungsstark sind, müssen sie mit internem Geschäftswissen kombiniert werden, um in das Unternehmen integriert zu werden. Knowledge Bases ist ein solches Tool, das umfassende Hosting-Unterstützung bietet, den Prozess für Benutzer vereinfacht, private Daten mit großen Modellen zu kombinieren, und den einfachen Aufbau interner Wissensdatenbanken ermöglicht. Mit der Wissensdatenbank von Amazon Bedrock wird Retrieval-Augmented Generation (RAG) durch die Kombination kontextbezogener Informationen erreicht und liefert genauere und personalisiertere Antworten. Alle abgerufenen Informationen werden mit Zitaten versehen, um Transparenz zu gewährleisten und Missverständnisse zu reduzieren.
So wie Menschen die mehrstufige Ausführung verwenden, um komplexe Aufgaben aufzuschlüsseln, ist die von Amazon Bedrock eingeführte Agentenfunktion auch sehr gut für die Bewältigung komplexer mehrstufiger Aufgaben geeignet. Mit dieser Funktion können Kunden natürliche Sprache verwenden, um mehrstufige Geschäftsaufgaben auszuführen. Die Agentenfunktion nutzt die Argumentationsfähigkeiten des zugrunde liegenden Modells, um das Problem zu zerlegen und das Problem des Benutzers Schritt für Schritt zu lösen. Der Agent verwendet die Argumentationsfunktion, um diese Anforderung zu zerlegen und sie Schritt für Schritt auszuführen. Agenten können auf die Unternehmenssysteme, Prozesse, Wissensdatenbanken und einige grundlegende Bausteine der Organisation zugreifen und dann logische Schritte zur Lösung von Problemen formulieren, bestimmen, welche APIs wann aufgerufen werden sollen, und sicherstellen, dass Transaktionen in der richtigen Reihenfolge abgeschlossen werden.
Wenn Benutzer große Modelle verwenden, müssen sie gleichzeitig auch die Sicherheit der Anwendung gewährleisten. Zu diesem Zweck hat Amazon Cloud Technology Responsible AI vorgeschlagen und die Guardrails-Funktion auf Amazon Bedrock bereitgestellt, die Schutz für eine Vielzahl von Basismodellen bieten kann und Agenten können Inhaltsfilterrichtlinien hinzugefügt werden, um vertrauliche Informationen und die Privatsphäre der Benutzer zu schützen.
Im Hinblick auf Compliance bietet Amazon Bedrock umfassende Überwachungs- und Protokollierungsfunktionen zur Unterstützung von Governance- und Audit-Anforderungen.
„Die letzten drei Kilometer der generativen KI bewältigen“ ist Chen Xiaojians Zusammenfassung der Umsetzung generativer KI-Anwendungen. Er sagte, dass Amazon Cloud Technology über umfassende technische Supportressourcen verfügt, darunter Architekten, Produktexperten, KI-Labore, Datenlabore, Rapid-Prototyping-Teams und professionelle Serviceteams, um Benutzer bei der Bewältigung der letzten Herausforderungen des generativen KI-Engineerings zu unterstützen.
Die iPhone-Ära der generativen KI ist angebrochen
Die generative KI entwickelt sich rasant. Was ist der nächste entscheidende Schritt?
Chen Xiaojian sagte, dass wir angesichts der immer komplexer werdenden Benutzeranforderungen tatsächlich noch viel Arbeit vor uns haben, einschließlich der Grundschicht, des Modells und der Integration mit dem Unternehmen.
Auf grundsätzlicher Ebene steht der Status Quo bei Chips immer noch vor Herausforderungen. Trotz des rasanten technologischen Fortschritts bei Halbleiterchips hat die schnelle Erweiterung der Modellparametergrößen die Verarbeitungsfähigkeiten vorhandener Chips bei weitem übertroffen. Von Millionen Parametern auf Dutzende oder Dutzende Milliarden Parameter wächst die Komplexität von Modellen in einem beispiellosen Tempo. Als Basisdienstleister muss Amazon Cloud Technology ständig untersuchen, wie die zugrunde liegenden Hardwarefunktionen mit der Komplexität des Geschäfts und der Komplexität großer Modelle in Einklang gebracht werden können, um sicherzustellen, dass die Entwicklung der Hardware mit der Erweiterung des Softwareumfangs Schritt halten kann. Der von Nvidia auf den Markt gebrachte B200 ist weit von der Hardware-Spitze entfernt und es gibt in Zukunft noch viel zu tun.
Auf Modellebene sind die von Claude 3 demonstrierten Fähigkeiten tatsächlich beeindruckend. Es wird jedoch viel Aufwand erfordern, diese Fähigkeit wirklich in das Unternehmen zu integrieren. Aktuelle Modelle haben zwar das Niveau von Doktoranden erreicht, aber es ist noch ein weiter Weg, bis Durchbrüche auf dem Niveau von Universitätsprofessoren, Akademikern oder sogar Einsteins erzielt werden können. Daher müssen Anbieter generativer KI, einschließlich Amazon Cloud Technology, weiterhin in Forschung und Entwicklung investieren, um die Fähigkeiten ihrer Modelle zu verbessern.
Was die Geschäftsintegration auf oberster Ebene betrifft, sehen wir Versuche, Amazon Q mit BI, dem intelligenten Kundenservice von Amazon Connect und anderen Lösungen zu kombinieren. Die Integration generativer KI in verschiedene Branchen und Szenarien wird ein riesiges Projekt sein. Es muss auch darüber nachgedacht werden, wie große Modelle besser für alle Lebensbereiche geeignet sind und leistungsfähigere Modellfunktionen, eine bequemere Nutzung und geringere Kosten bieten.
Die iPhone-Ära der generativen KI ist angebrochen. Die heutige Demo gab uns einen Einblick in die erstaunlichen Dinge, die generative KI leisten kann. Doch um diese großartige Vision zu verwirklichen, muss nicht nur die Amazon Cloud-Technologie hart arbeiten, sondern die gesamte Branche muss enorme Anstrengungen unternehmen. Generative KI hat das Potenzial, einen enormen Mehrwert für die menschliche Gesellschaft zu schaffen, aber dafür müssen wir gemeinsam forschen und üben.
Ein in den 1990er Jahren geborener Programmierer hat eine Videoportierungssoftware entwickelt und in weniger als einem Jahr über 7 Millionen verdient. Das Ende war sehr bestrafend! High-School-Schüler erstellen im Rahmen einer Coming-of-Age-Zeremonie ihre eigene Open-Source-Programmiersprache – scharfe Kommentare von Internetnutzern: Der inländische Dienst Taobao (taobao.com) verließ sich aufgrund des grassierenden Betrugs auf RustDesk und stellte die inländischen Dienste ein und startete die Arbeit zur Optimierung der Webversion von Java neu 17 ist die am häufigsten verwendete Java LTS-Version. Windows 11 erreicht weiterhin einen Rückgang. Open Source Daily unterstützt die Übernahme von Open Source Rabbit R1; Electric schließt die offene Plattform Apple veröffentlicht M4-Chip Google löscht Android Universal Kernel (ACK) Unterstützung für RISC-V-Architektur Yunfeng ist von Alibaba zurückgetreten und plant, in Zukunft unabhängige Spiele für Windows-Plattformen zu produzieren