OpenAI hat kürzlich ein fortschrittliches Sicherheitskonzept veröffentlicht, das als „Preparedness Framework“ bekannt ist. Dieses KI-Sicherheitskonzept von OpenAI stellt einen laufenden Prozess dar, der sich an den sich verändernden Anforderungen und Risiken orientiert. Der Schwerpunkt liegt darauf, die potenziellen Gefahren zu verstehen und zu bewerten, die von künstlicher Intelligenz ausgehen könnten. OpenAI erkennt an, dass die Forschung in diesem Bereich noch nicht ausreichend ist und betont die Wichtigkeit eines vorausschauenden Ansatzes.
Im Kern des Konzepts steht die Entwicklung von Bewertungs- und Überwachungssystemen. Diese sollen nicht nur aktuelle, sondern auch zukünftige Risiken von KI-Technologien erfassen. Es wird ein kontinuierlicher Prozess angestrebt, um auch bislang unbekannte Risiken zu identifizieren. Nur KI-Modelle, die als moderat oder weniger riskant eingestuft werden, dürfen in der Praxis angewendet werden. Modelle, die ein höheres Risiko bergen, dürfen zwar weiterentwickelt, aber nicht eingesetzt werden.
KI-Sicherheitskonzept von OpenAI: Bildung einer Task Force
Um die Sicherheit weiter zu stärken, hat OpenAI ein spezielles Team eingerichtet, das für die Überwachung der KI-Modelle zuständig ist. Zusätzlich gibt es eine Beratungsgruppe für Sicherheitsfragen, die das Fachwissen des gesamten Unternehmens bündelt. Diese Maßnahmen scheinen auch eine Reaktion auf interne Kommunikationsprobleme zu sein, wie der abrupte Abgang von OpenAI-Chef Sam Altman gezeigt hat.
Das Konzept befasst sich vorrangig mit den schwerwiegendsten Risiken, ist aber nur ein Teil der umfangreichen Sicherheitsbemühungen von OpenAI. Das Unternehmen arbeitet weiterhin an Themen wie Voreingenommenheit in KI-Modellen, den sogenannten „Halluzinationen“ von KI und dem potenziellen Missbrauch seiner Systeme. Zusammen mit großen Technologieunternehmen wie Google und Microsoft hat OpenAI das Frontier Model Forum ins Leben gerufen. Intern gibt es viele Teams, die sich mit verschiedenen Aspekten der Modellsicherheit beschäftigen.
Es gibt vier Hauptkategorien von Bedrohungen, die bei der Risikobewertung berücksichtigt werden: Cybersecurity, atomare, chemische, biologische und radiologische Bedrohungen, Überzeugungskraft und die Autonomie von KI-Modellen. Diese Kategorien behandeln Themen wie selbstlernende KIs, das Potenzial von KI-Modellen, menschliche Überzeugungen zu beeinflussen, sowie potenzielle Angriffe auf Infrastrukturen durch den Einsatz von KI.
Zusammenfassend ist KI-Sicherheitskonzept von OpenAI: Zukunft der KI-Sicherheit ein wichtiger Schritt in Richtung einer verantwortungsbewussten und sicheren Nutzung von KI. Durch ständige Risikobewertung und Überwachung wird ein wichtiger Beitrag zur Entwicklung sicherer KI-Technologien geleistet. Dieser Ansatz entspricht auch den Bestimmungen des AI Acts, der ebenfalls einen risikobasierten Ansatz verfolgt.
Wenn du dich für die Prognosen zu KI für das Jahr 2024 interessierst, klicke hier.
Quelle: https://www.heise.de/news/OpenAI-stellt-sein-risikobasiertes-Sicherheitskonzept-vor-9578139.html