Quelle: Qiming Venture Partners
Originaltitel: „Qiming Headlines | Qiming Venture Partners und Unfinished Research haben gemeinsam den Bericht „Generative AI“ | The State of Generative AI 2023 veröffentlicht“
Auf der World Artificial Intelligence Conference 2023 (WAIC)** Qiming Venture Partners Forum „Generative AI and Large-scale Models: Change and Innovation“ veröffentlichte Qiming Venture Partners gemeinsam mit Unfinished Research einen Blockbuster-Bericht „Generative KI 》| Stand der generativen KI 2023. **
Wenn 2022 als das Jahr der generativen künstlichen Intelligenz bezeichnet wird, wurden Durchbrüche bei der Anwendung von Diffusionsmodellen erzielt, ChatGPT wurde geboren und eine Reihe bahnbrechender Forschungsarbeiten veröffentlicht. Im Jahr 2023 wird das große Modell seinen Höhepunkt erreichen Die Veröffentlichung von GPT-4 als Zeichen generativer künstlicher Intelligenz ist in die Phase innovativer Anwendungen in Richtung allgemeiner künstlicher Intelligenz eingetreten.
**Das wichtigste Merkmal dieser Phase ist, dass Anwendung, Forschung und Betreuung zusammenarbeiten, um den innovativen Weg der generativen künstlichen Intelligenz zu eröffnen. **
INNOVATIVE ANWENDUNGEN
Die Menschen sahen schnell die Entstehung einer neuen Geschäftsökologie aus generativer künstlicher Intelligenz, sahen Schicht für Schicht Technologie, wie Berechnungen, Modelle und Anwendungen, sahen die generierten Inhalte, wie Texte, Bilder, Videos, Codes, 3D-Strukturen usw -Modalität; siehe auch offene Daten, vertikale Daten, synthetische Daten, Vektordaten für große und kleine Modelle.
Generative künstliche Intelligenz scheint in China stärker angenommen zu werden: Die Regierung fördert die Entwicklung allgemeiner künstlicher Intelligenz; kein großes Unternehmen kommt an ihr vorbei; viele kleine und mittlere Unternehmen, die sich mit Wissensarbeit befassen, haben sie bereits als erste genutzt. ** Angesichts dieser revolutionären Technologie sind alle Unternehmen beteiligt. Sie haben unterschiedliche Rhythmen und unterschiedliche Grade der Beteiligung und sind zu Verteidigern, Innovatoren und Anwendern der Welle neuer Technologien geworden. Ihre Gewinnmargen verändern sich dauerhaft. **
Rechenleistung ist derzeit die knappste Ressource und zugleich die profitabelste Position. **Rechenleistung ist der größte Teil der Kostenstruktur des großen Modells, und die Leistung der GPU bestimmt tatsächlich das Tempo dieser aufstrebenden Branche. ** Mit der Weiterentwicklung von Rechenleistung und Modellen strömen immer mehr Start-ups hinzu. Sie haben sich die Dividende der Zeit geschnappt, sind aber auch mit der Konkurrenz und einer möglichen Vernichtung durch Riesen konfrontiert. Man kann sagen, dass dies der blaue Ozean der Neugründungen ist, und es gibt auch versteckte Riffe unter dem Kanal.
**Wettbewerb fördert Innovation. **Im Gegensatz zum schnellen Aufschwung von Start-ups in Richtung Produktivitätstools im Jahr 2022 wird sich im Jahr 2023 ein größerer Anteil neuer Unternehmen auf die Innovation der zugrunde liegenden Technologien konzentrieren; große Start-ups haben ebenfalls begonnen, sich zu differenzieren, und zwar auf dem Vormarsch Allgemeine Großunternehmen Gleichzeitig entstanden viele vertikale Großunternehmen in bestimmten Bereichen wie medizinische Versorgung, E-Commerce, wissenschaftliche Forschung, Industrie, autonomes Fahren und Robotik. **
Grenzforschung
2022 und 2023 sind die beiden Jahre, in denen die Technologie der generativen künstlichen Intelligenz Durchbrüche erzielen wird. Wir haben die Papiere gesichtet und festgestellt, dass ein herausragendes Merkmal im Bereich der generativen künstlichen Intelligenz die enge Integration von Forschungs- und Innovationsprozessen ist, von denen viele darin umgesetzt werden Unternehmen. , Anwendungsfälle und Produkte schnell einführen. **Diese Integration von Forschung und Unternehmertum, Start-ups und Risikokapital hat eine wichtige Rolle gespielt, und die Forschungsinvestitionen und Talente von US-amerikanischen Technologiegiganten und großen Unternehmen im Bereich der künstlichen Intelligenz, einschließlich der Erforschung einiger zugrunde liegender Technologien, haben die Universitäten übertroffen Jahren und anderen Forschungseinrichtungen.
**Die Grenzen der künstlichen Intelligenz drängen in die Zukunft. **Obwohl von den technischen Berichten von GPT-4 bis zu den Forschungsarbeiten von Microsoft gezeigt wurde, dass es in vielen Berufsfeldern über nahezu menschliche Textverarbeitungsfähigkeiten, mathematische Denkfähigkeiten und Kenntnisse verfügt. „Wir glauben, dass es vernünftigerweise als eine frühe (wenn auch noch unvollständige) Version eines Systems der künstlichen allgemeinen Intelligenz (AGI) angesehen werden kann.“ zu viel. Wie zum Beispiel Vertrauenskalibrierung, Langzeitgedächtnis, kontinuierliches Lernen, Personalisierung, Planung und Konzeptübersprung, Transparenz, kognitive Irrtümer und Irrationalität usw. **
**Die wichtigste Forschungsrichtung der letzten sechs Monate besteht darin, die mysteriöse und aufregende „Entstehung“ von Intelligenz in großen Modellen zu entschlüsseln und zu verstehen. **Große Modelle müssen nicht nur die Fähigkeit zur Vorhersage des nächsten Wortes übertreffen, sondern benötigen auch einen umfassenderen und komplexeren Tiefenmechanismus des „langsamen Denkens“, um den Mechanismus des „schnellen Denkens“ zur Vorhersage des nächsten Wortes zu überwachen.
**Die beste Spitzenforschung muss darin bestehen, die Probleme zu untersuchen und zu lösen, die bei der Anwendung von Großtechnologie auftreten. **Forschung darüber, wie man Halluzinationen reduziert, das große Modell so anpasst, dass es reale Inhalte genauer ausgibt, und ein stärkeres Denkvermögen trainiert; wie man das Modell intensiver trainiert, die Schwelle senkt, neue Produkte auf den Markt bringt und mehr Menschen aus allen Gesellschaftsschichten zulässt Leben und Verbraucher Wie man wie ein Mensch mit der realen physischen Welt interagiert; wie man zum Assistenten von Menschen bei komplexen Arbeiten wird, wissenschaftliche Experimente entwirft und bei der Durchführung hilft; wie man die Beschäftigung beeinflusst und politische Reaktionen herbeiführt; wie man künstliche Intelligenz herstellt sicher und glaubwürdig.
Regulierung| Sicherheit| Richtlinie| Talent
Die regulatorische Reaktion der Regierung auf generative künstliche Intelligenz kommt recht zeitgemäß und in verschiedenen Ländern haben sich unterschiedliche Merkmale herausgebildet. **Während China rasch Regulierungsmaßnahmen für generative künstliche Intelligenz einführt und Meinungen einholt, fördert es auch die Entwicklung allgemeiner künstlicher Intelligenz. Peking, Shanghai und Shenzhen sind die ehrgeizigsten Spitzenreiter, und sie alle haben ehrgeizigere Forschung im Bereich der künstlichen Intelligenz vorgeschlagen. Innovation und industrielle Ziele. ** Die EU ist weiterhin führend in Regulierung und Gesetzgebung, da sie vor fünf Jahren Pionierarbeit bei der DSGVO geleistet hat. Die Vereinigten Staaten sind mehr besorgt über die führende Position der Technologie der künstlichen Intelligenz und schaffen einen Regulierungsrahmen, der auf dem Prinzip des Risikomanagements basiert.
** Langfristig werden Talente einen größeren Einfluss auf die Zukunft der künstlichen Intelligenz haben als Rechenleistung. **Die Zahl der von chinesischen Forschern veröffentlichten Arbeiten hat die der Vereinigten Staaten übertroffen, aber die Vereinigten Staaten haben an der Spitze der Pyramide immer noch einen klaren Vorteil, sei es in der Forschung oder im Unternehmertum. Weltweit verlagert sich der Schwerpunkt der Forschung und Innovation im Bereich der künstlichen Intelligenz von Universitäten hin zu Unternehmen. Die drei führenden Institutionen in den Vereinigten Staaten mit den meisten Top-Wissenschaftlern sind Google, Microsoft und Meta, die zusammen 30 % der Top-Wissenschaftler in den Vereinigten Staaten rekrutieren . China wird immer noch von Universitäten dominiert und nur Alibaba rangiert unter den Top 10.
Das Ministerium für Wissenschaft und Technologie hat vorgeschlagen, dass Unternehmen im Bereich der künstlichen Intelligenz eine Überprüfung der wissenschaftlichen und technologischen Ethik akzeptieren sollten; der Gegenstand der Überprüfung sollte einen Ausschuss für wissenschaftliche und technologische Ethik (Überprüfung) einrichten. Amerikanische Unternehmen für künstliche Intelligenz haben früher damit begonnen, verantwortungsvolle und glaubwürdige Abteilungen für künstliche Intelligenz einzurichten. Von letztem Jahr auf dieses Jahr wurden einige Anpassungen vorgenommen, die widerspiegeln, dass Unternehmen bei Veränderungen in der generativen künstlichen Intelligenz versuchen, bessere Technologien und Lösungen für die Bereitstellung zu nutzen Neue Technologien sicher und verantwortungsvoll nutzen.
Zehn Perspektiven
Großes Sprachmodell
-
Im Jahr 2024 wird China über ein mehrsprachiges Allzweckmodell verfügen, das mit GPT-4 vergleichbar ist;
-
Long Context wird den nächsten Durchbruch in der LLM-Technologie anführen;
-
Bevor ein vielversprechenderes großes Sprachmodell entsteht, werden die folgenden drei Methoden nebeneinander existieren, um im vertikalen Bereich bessere Ergebnisse zu erzielen:
i) Verwenden Sie, ohne die Datenverteilung zu ändern, allgemeinere Daten für das allgemeine Vortraining großer Modelle und führen Sie keine spezifischen Branchendaten ein.
ii) Verwenden Sie branchenspezifische Daten, um das allgemeine große Modell zu optimieren (Fine-Tuning).
iii) Verwenden Sie Datensätze mit einem höheren Anteil an Branchendaten für das Vortraining des vertikalen Modells.
Multimodales Modell
4 Das aktuelle Vinsen-Diagrammmodell von CLIP + Diffusion ist ein Übergangszustand, und in den nächsten 2 Jahren wird eine integrierte Modellstruktur erscheinen.
-
Das Text-to-Image-Modell der nächsten Generation verfügt über eine stärkere Steuerbarkeit. Es kombiniert die Funktionen des zugrunde liegenden Modells und der Front-End-Steuerungsmethode, und das Design des Modells wird sich auf die Kombination mit der Steuerungsmethode konzentrieren.
-
Vor 2025 werden Video- und 3D-Modi Meilensteinmodelle einleiten, die den Generierungseffekt erheblich verbessern;
-
Die durch PALM-E repräsentierte verkörperte Intelligenz (verkörperte KI) hat großes Potenzial in Richtung Roboterwahrnehmung, -verständnis und -entscheidungsfindung gezeigt, aber es gibt große Herausforderungen bei der aktuellen Ausbildung und Zuverlässigkeit;
-
Kurzfristig entwickelt sich Transformer zur Mainstream-Netzwerkstruktur mehrerer Modalitäten, es gibt jedoch noch keine allgemeine Methode zur Komprimierung der gesamten digitalen Welt. Transformer ist nicht das Ende der Technologie der künstlichen Intelligenz.
Geschäftsmöglichkeit
-
Innerhalb von drei Jahren wird die Kernantriebskraft subversiver KI-Anwendungen von der Innovation des zugrunde liegenden Modells ausgehen, die beiden können nicht voneinander getrennt werden und die Rolle des Modells wird größer sein als die des Produktdesigns;
-
Der aktuelle Markt für generative KI befindet sich in einem frühen Stadium der Technologiedominanz und es gibt Chancen für Plattformunternehmen mit einem Marktwert von Hunderten von Milliarden Dollar.
Lesen Sie den Originaltext
