Herzlich willkommen zum AI FIRST Newsletter!
Die neue Modellreihe von OpenAI ist draußen und der Hype war die letzten Tage wieder groß.
Während die Einen schon vom Erreichen der Artificial General Intelligence (AGI) sprechen, sind Andere eher enttäuscht.
Was kann o1 wirklich?
Wo liegen die Vorteile?
Was sind passende Anwendungsgebiete?
Welche Grenzen und Herausforderungen gibt es?
Ich habe o1 auf Herz und Nieren geprüft und teile heute meine Erfahrungen mit Dir.
Let's go.
o1 basiert auf einer völlig neuen Architektur, die OpenAI als "Reasoning Models" bezeichnet. Diese Modelle sind darauf trainiert, komplexe Denkprozesse durchzuführen, bevor sie eine Antwort geben.
Im Gegensatz zu GPT-4 und anderen Large Language Models (LLMs) erzeugt o1 interne "Reasoning Tokens". Diese repräsentieren den Denkprozess des Modells, bevor es eine sichtbare Antwort produziert.
o1 nimmt sich buchstäblich mehr Zeit zum Nachdenken. Während dieser Phase generiert es Tausende von internen Tokens, um ein Problem zu durchdenken, bevor es antwortet.
Diese "Denkzeit" kann von wenigen Sekunden bis zu mehreren Minuten dauern, abhängig von der Komplexität der Aufgabe.
OpenAI hat entdeckt, dass längeres "Denken" zu genaueren und zuverlässigeren Antworten führt.
Beispiel des Denkens aus meinem Test:
Hier wechselt o1 immer wieder zwischen Englisch und Deutsch, obwohl mein Prompt auf Deutsch war.
Claude Sonnet 3.5 ist eindeutig immer noch besser mit Worten, während o1 eher der Mathe-Typ ist.
Das zeigt aus das Ergebnis von OpenAI im Vergleich mit 4o - die Sprachfähigkeiten haben sich nicht verbessert.
o1 zeigt jedoch beeindruckende Fähigkeiten im logischen Denken und in der Problemlösung. Es kann komplexe Aufgaben in Einzelschritte zerlegen und diese systematisch abarbeiten.
Ein Beispiel dafür ist die Fähigkeit, die Anzahl der "R"s im Wort "strawberry" korrekt zu zählen - eine Aufgabe, die in den letzten Monaten viral ging, da frühere Modelle daran scheiterten:
Die analytischen Fähigkeiten zeigen sich in verschiedenen Bereichen:
· Mathematik: o1 hat sich als außerordentlich fähig in mathematischen Berechnungen und Beweisführungen erwiesen.
· Programmierung: In Coding-Aufgaben erreicht o1 Spitzenleistungen, vergleichbar mit den besten menschlichen Programmierern.
· Wissenschaftliches Reasoning: Das Modell übertrifft menschliche PhD-Studenten in Physik, Biologie und Chemie-Benchmarks.
· Komplexe Logik: o1 kann vielschichtige logische Probleme lösen, die für frühere Modelle zu schwierig waren.
Ich gab o1 einen Business Case mit einem Framework eine globale Expansionsstrategie zu entwickeln.
Vor dem Schreiben dachte o1 48 Sekunden nach.
Und dann wurde 7 Minuten lang geschrieben.
Das Ergebnis war ein umfangreiches Expansions-Strategieprogramm mit 3480 Wörtern, einer Analyse und 8 Strategiebereiche:
1. Globale Marktanalyse und Expansionsstrategie
2. Digitale Transformationsstrategie
3. Lieferkettentransformation
4. Markenpositionierung und Marketingstrategie
5. Organisationstransformation und Talentstrategien
6. Nachhaltigkeitsintegration
7. Investitionsplan und Business Case
8. Abschließende Deliverables
Das ersetzt keinen McKinsey Consultant, aber eine solide Grundlage für weitere Ausarbeitungen.
Wir müssen immer bedenken, dass das erst Schritt 1 ist.
12 Monate vorgespult werden wir darüber lachen.
So wie heute niemand mehr GPT 3 nutzt.
Hier ist der Link zum längeren Video.
Alle testen gerade noch kräftig - basierend auf meinen Experimenten sehe ich vor allem 3 Anwendungsfelder, wo o1 stärker ist:
Mustererkennung in komplexen Datensätzen: o1 ist gut darin, verborgene Zusammenhänge in großen Datenmengen aufzuspüren. Das wird besonders spannend, wenn wir Tabellen und andere Datensätze als Input geben können, um uns Analysen und Interpretationen zu erstellen.
Kreative Problemlösung: Bei der Entwicklung neuartiger Lösungsansätze für komplexe Herausforderungen zeigt o1 erste gute Ergebnisse. Gib o1 einfach mal ein paar knifflige Probleme und schau Dir den Lösungsansatz an.
Berechnungen: Damit hebt o1 eine der großen Limitierungen von LLMs auf. Mir fehlt hier noch ein konkreter Use Case im Arbeitsalltag, aber diese wird es geben sobald der Input von Tabellen möglich ist.
Die verlängerte "Denkzeit" von o1 bedeutet, dass Antworten länger dauern - von wenigen Sekunden bis zu mehreren Minuten. Dies macht es ungeeignet für Anwendungen, die schnelle Reaktionszeiten erfordern, wie z.B. typische Chatbot-Szenarien.
Die intensive Rechenleistung, die o1 benötigt, macht seinen Einsatz deutlich teurer als herkömmliche Modelle. Eine einzelne Anfrage an o1 kann bis zu 100-mal teurer sein und 10-mal länger dauern als bei GPT-4o.
Wichtig zu erwähnen ist auch, dass o1 in einigen Bereichen, wie beispielsweise bei der Codeerstellung oder beim kreativen Schreiben, keine bessere Leistungen als GPT-4o zeigt.
Somit ist ein Upgrade nicht für alle empfehlenswert, sondern eher für spezifische Anwendungsfälle, die tiefgreifendes Reasoning erfordern.
Bitte beachte auch, dass o1 weiterhin halluziniert. Wir müssen die Ergebnisse also noch immer kritisch prüfen.
OpenAI hat gestern einen neuen Prompting-Leitfaden für o1 veröffentlicht, der einige wichtige Veränderungen in der Herangehensweise betont:
· Einfachheit: Klare, direkte Anweisungen funktionieren am besten.
· Vermeidung von Chain-of-Thought Prompts: o1 denkt bereits selbstständig in Schritten, daher sind explizite Aufforderungen zum schrittweisen Denken oft überflüssig.
· Verwendung von Trennzeichen: Dies hilft dem Modell, verschiedene Inputteile klar zu unterscheiden.
Ein optimierter Prompt-Aufbau für o1 würde so aussehen:
Hier der Prompt zum Kopieren:
[Hier Hintergrundinformationen oder Analyseaufforderungen einfügen]
[Hier Beispiele einfügen, mit Trennzeichen zwischen ihnen]
[Hier die eigentliche Aufgabe oder Anweisung formulieren]
Wer Interesse hat, kann hier auch den gesamtem o1 Guide von OpenAI finden.
o1 beweist, dass Limitierungen von LLMs wie Mathematik oder Logik mit der Zeit aufgehoben werden können.
Stand heute ist o1 nicht der Game-Changer, den viele vermuten.
Doch es ist der Start einer neuen Generation von Sprachmodellen, die sich in den nächsten Jahren weiterentwickeln.
Erinnere dich an die Entwicklung der GPT-Modelle...
Die kombinierten Fähigkeiten aus Analytik, Kreativität und Generierung von Inhalten werden diese Modelle mit der Zeit immer breiter und zuverlässiger einsetzbar machen.
Du hast heute 3 Gründe gelernt, warum Jetzt die beste Zeit zu handeln ist:
Zum Schluss zwei Fragen, die Dir zeigen, ob Dein Unternehmen bei AI auf dem richtigen Weg ist:
1. Hast Du o1 bereits durch Eure unternehmensspezifischen Benchmarks laufen lassen?
2. Hast Du schon AI-Champions im Team, die mit o1 experimentieren und ihre Erkenntnisse im Unternehmen teilen?
Falls nicht, wird es Zeit…
Denn langsamer wird's nicht :)
Ich freue mich von Dir zu hören!
Bis bald,
Felix