Anthropic spendet 20 Millionen US-Dollar an die „Public Priority Action Organization“ zur Förderung der KI-Abwehr

Anthropic kündigt eine Spende von 20 Millionen US-Dollar an Public First Action (Organisation für öffentliche Prioritäten, kurz PFA) an, um Initiativen im Bereich der KI-Governance zu unterstützen. Anthropic erklärte, dass diese Mittel dazu verwendet werden sollen, die öffentliche Bildung über Künstliche Intelligenz und rechtliche Rahmenbedingungen voranzutreiben, insbesondere um Regulierungsmaßnahmen für potenzielle Risiken zu entwickeln, einschließlich der Verhinderung automatisierter Cyberangriffe und der Nutzung von KI-Technologien zur Herstellung von Waffen sowie anderer KI-Risikoszenarien.

Anthropic: Die Entwicklung von Künstlicher Intelligenz birgt Risiken, Staaten müssen Politiken zum Schutz der Sicherheit vorantreiben

Anthropic betont, dass KI zwar in den Bereichen wissenschaftliche Forschung, technologische Innovation, medizinische Entwicklung und Wirtschaftswachstum erhebliche Vorteile bringen kann, die damit verbundenen Risiken jedoch nicht ignoriert werden dürfen. Diese Risiken ergeben sich aus Missbrauch der Technologie, etwa für automatisierte Cyberangriffe oder in Zukunft für die Herstellung gefährlicher Waffen. Zudem könnten sich bei zunehmender Modellfähigkeit Abweichungen von den Nutzerabsichten ergeben, was zu unkontrollierbarem Verhalten führen kann. Mit der kontinuierlichen Weiterentwicklung der KI-Modelle wird es eine zentrale Herausforderung sein, Innovationen zu fördern und gleichzeitig potenzielle Risiken zu steuern – ein bedeutendes Thema in der KI-Entwicklung.

Die Fähigkeiten von KI-Modellen entwickeln sich rasant, vom Chatbot hin zu KI-Agenten, die komplexe, mehrstufige Aufgaben ausführen können. Anthropic erklärt, um den Herausforderungen der ständig fortschreitenden KI-Modelle gerecht zu werden, erhöhe das Unternehmen die Anforderungen bei der Rekrutierung von Softwareingenieuren und setze anspruchsvolle Tests für neue Ingenieure, um mit den schnellen Entwicklungen Schritt zu halten.

Angesichts dessen ist Anthropic der Ansicht, dass die Verbreitung von KI schneller voranschreitet als bei den meisten früheren Technologien, während die Entwicklung entsprechender KI-Politiken jedoch nur langsam vorankommt. Derzeit fehlt es an einem vollständigen offiziellen Regulierungsmechanismus sowie an einem föderalen Rahmen, was zu einer fragmentierten Diskussion über die Politik führt. Anthropic erklärt, dass die KI-Politik der kommenden Jahre Auswirkungen auf den Arbeitsmarkt, den Schutz von Kindern und Jugendlichen, die nationale Sicherheit und internationale Machtverhältnisse haben wird. Daher sei es notwendig, flexible und reaktionsfähige Regulierungsstrukturen zu schaffen, um eine Balance zwischen Innovation und Risiko zu finden.

Zwei Millionen Dollar Spende an „Public First Action“, keine politische Partei

Anthropic betont, dass die Spende von zwei Millionen Dollar an die Organisation für öffentliche Prioritäten nicht aus politischen Gründen erfolgt und nicht nur im eigenen Interesse des Unternehmens liegt. Es sei die Verantwortung der KI-Entwickler, sicherzustellen, dass die Technologie dem öffentlichen Interesse dient. Diese Spende spiegelt diese Haltung wider.

Public First Action ist keine traditionelle Lobbyorganisation, sondern eine politische Initiative. Die Organisation setzt sich für Themen wie den Schutz von Kindern, Arbeitnehmern und der Öffentlichkeit, die Verschärfung der Exportkontrollen für fortschrittliche Halbleiter in den USA, die Erhöhung der Transparenz in KI-Laboren sowie die Reduzierung bedeutender KI-Risiken ein. „Public First Action“ unterstützt aktiv die Arbeit von Bundes- und Landesgesetzgebern bei der Lösung aufkommender KI-Probleme und lehnt es ab, die Fortschritte der Bundesstaaten im KI-Bereich zu behindern, solange keine ausreichenden bundesweiten Schutzmaßnahmen bestehen. Die Organisation besteht aus US-amerikanischen Politikern verschiedener Parteien. Es ist erwähnenswert, dass, obwohl Anthropic betont, die Spende sei nicht parteipolitisch motiviert, „Public First Action“ kürzlich die Unterstützung des republikanischen Senators aus Tennessee, Marsha Blackburn, bei deren Gouverneurswahl gezeigt hat.

Diese Nachricht über Anthropic, das 20 Millionen US-Dollar an „Public First Action“ spendet, um die KI-Abwehr zu fördern, erschien zuerst bei ABMedia, Chain News.