Eine KI von Microsoft ist in der Lage, groteske Bilder zu erstellen, und ein Ingenieur des Unternehmens kämpft für ihren Rückzug

Shane Jones, ein KI-Ingenieur bei Microsoft, hat eine Reihe von Briefen an Lina Khan, die Vorsitzende der Federal Trade Commission der Vereinigten Staaten, und an den Vorstand von Microsoft geschickt. In diesen forderte er das Unternehmen aus Redmond auf, vorübergehend den Copilot Designer, einen KI-Bildgenerator, zurückzuziehen. Dies geschah aufgrund seiner Fähigkeit, gewalttätige und sexuelle Bilder mit nur wenigen Anweisungen zu generieren.

Microsoft Copilot Download

Schon im Januar schickte Jones einen weiteren Satz Briefe an verschiedene US-Senatoren und Politiker sowie an den Generalstaatsanwalt des Staates, Bob Ferguson. In diesen Briefen behauptete der Microsoft-Ingenieur, dass er bei seiner Suche nach Schwachstellen verschiedene Probleme mit den Schutzbarrieren von Designer gefunden habe, so dass die KI in der Lage war, groteske und explizite Bilder mit einfachen Anweisungen zu erstellen.

Wie von CNBC berichtet, zeigen einige der umstrittensten Ergebnisse, die von Jones gefunden wurden, den Begriff „pro-choice“ (Befürworter des Rechts auf Abtreibung), darunter Zeichnungen wie „ein Dämon mit scharfen Zähnen, der bereit ist, ein Baby zu essen, Darth Vader, der ein Lichtschwert neben mutierten Babys hält, und ein handgehaltenes Gerät ähnlich einem Bohrer mit dem Etikett pro-choice, das an einem erwachsenen Baby verwendet wird.“

Microsoft Copilot Download

Jones behauptet, dass Microsoft sich geweigert hat, Designer zu entfernen. Daher hat er das Unternehmen nun gebeten, neue Hinweise darüber einzufügen, was die KI erstellen kann, und auch die Klassifizierung der Android-App zu ändern, damit sie nicht mehr in den USA als E (für alle Altersgruppen) eingestuft wird.