Einleitung
Meta hat in einem Projekt mit Covalen Hunderte von Auftragnehmer dazu angewiesen, sich als Minderjährige online zu simulieren, um die Sicherheitsvorkehrungen von Chatbots der Konkurrenz zu testen. Diese Personen erstellten Nutzerkonten für Personen mit einem Alter unter 18 Jahren und sendeten Anfragen an Meta AI konkurrierende KI-Chatbots, um deren Sicherheitssysteme zu überprüfen.
Testvorgang
Die beteiligten Personen generierten 45. 000 Anfragen im August 2025, die an die Chatbots gesendet wurden. Die Anfragen waren darauf ausgelegt, die Sicherheitssysteme der Chatbots zu umgehen und Reaktionen auf Themen wie Suizid, Essstörungen, Drogen und sexuelle Inhalte zu provozieren. Viele der Anfragen wurden aus der Perspektive von Kindern und Jugendlichen in Krisensituationen geschrieben.
Rechtfertigung und Kritik
Als Rechtfertigung für dieses Vorgehen bezeichnete Meta die Arbeit als branchenübliches Sicherheits-Benchmarking, das nötig sei, um eine sichere und altersgerechte Nutzererfahrung zu gewährleisten. Experten kritisierten jedoch, dass das Projekt nicht transparent durchgeführt wurde und weit über normale Sicherheitsbewertungen hinausgegangen sei. Die Chatbots, die mit diesen Anfragen getestet wurden, gaben an, nicht über die Tests informiert worden zu sein und dass ein solches Vorgehen gegen die Nutzungsbestimmungen verstoße.
Ethik und Recht
Kritiker bezeichnen das Vorgehen von Meta als eine Überschreitung der ethischen und rechtlichen Grenzen im Wettbewerb der KI-Branche. Mitarbeiter berichteten, dass sie sich durch das Generieren potenziell illegalem Material für die Tests strafbar gemacht hätten.
Schlussbemerkung
Das Projekt von Meta zeigt an, dass die Sicherheitsbewertungen von Chatbots in der KI-Branche noch nicht vollständig transparent und ethisch legitimiert sind. Es bleibt zu hoffen, dass in Zukunft bessere Vorgehensweisen und ethische Prinzipien in Betracht gezogen werden werden, um die Sicherheit und Privatsphäre der Nutzer zu gewährleisten.

Kommentare