Datenschutzprobleme:
Italiens Datenschutzbehörde stoppt KI-Software ChatGPT
In Italien muss der Chatroboter ChatGPT eine Pause einlegen. Die dortige Datenschutzbehörde sieht gravierende Mängel und verfügte eine Sperre. Der Betreiber OpenAI hat nun knapp drei Wochen Zeit für eine Antwort.
Foto: Shutterstock IrynaImago
Italiens Datenschutzbehörde hat den populären Text-Automaten ChatGPT im Land vorläufig gesperrt. Sie verwies amFreitag unter anderem darauf, das der Betreiber OpenAI nicht ausreichend über die Verwendung von Daten informiere. Auch gebe es keine Filter, die verhinderten, dass Kinder im Alter unter 13 Jahren für sie «absolut unangebrachte» Informationen angezeigt bekämen. Es seien Ermittlungen eingeleitet worden.
Die Behörde verbot zugleich vorsorglich die Verarbeitung von Daten von Nutzern aus Italien - ChatGPT ist damit in dem Land nicht mehr anwendbar. OpenAI bekam 20 Tage Zeit, Maßnahmen gegen die Vorwürfe zupräsentieren. Danach droht eine Strafe bis zu 20 Millionen Euro oder vier Prozent des weltweiten Umsatzes.
Die Datenschutzbehörde verwies auch auf eine jüngst bekanntgewordene Datenpanne. Dabei hatten Nutzer von ChatGPT zum Teil Informationen aus fremden Profilen zu sehen bekommen. Das Problem ging laut OpenAI auf einen Fehler in einer für ChatGPT verwendeten Software zurück.
ChatGPT basiert darauf, dass die Software enorme Mengen von Texten erfasste. Sie kann auf dieser Basis Sätze formulieren, die von denen eines Menschen kaum zu unterscheiden sind. Dabei schätzt das Programm, welche Worte als nächstes in einem Satz folgen könnten. Dieses Grundprinzip birgt unter anderem das Risiko, dass die Software «Fakten halluziniert», wie OpenAI es nennt - falsche Informationen als korrekt wiedergibt.
Die italienischen Datenschützer sehen auch ein grundsätzliches Problem darin, wie ChatGPT trainiert wurde. Es gebe keine rechtliche Grundlage für die massenhafte Sammlung und Speicherung personenbezogener Daten zum Trainieren der Algorithmen.
Die Behörde war im Februar bereits auf ähnliche Weise gegen einen anderen Chatbot mit dem Namen Replika vorgegangen. Dabei ging es vor allem darum, dass Kinder im Alter unter 13 Jahren ungenügendgeschützt würden.
ChatGPT hatte in den vergangenen Monaten damit beeindruckt, wie gut die Software menschliche Sprache imitieren kann. Zugleich gibt es Sorgen, dass solche Technik auf Basis künstlicher Intelligenz zum Beispiel für die Verbreitung falscher Informationen missbraucht werden könnte. (dpa)
Kennst du schon den W&V KI-Talk? In der ersten Folge des neuen Video-Podcasts diskutieren wir die Frage, ob Bing mit seiner ChatGPT-Integration Google vom Suchmaschinen-Thron stoßen kann. Zum Talk.
Wenn du KI-Tools wie ChatGPT, Midjourney und Co. verstehen und in deine Arbeit erfolgreich anwenden willst, bist bei den Fortbildungsangeboten der PAGE, W&V und Developer Media genau richtig. Hier gehts zu unseren Hands-on-Trainings.
Macht KI den Marketers ihren Job streitig? Die Antwort geben Florian Lillig und Nils Weber im W&V Denkanstoß. Jetzt reinhören.
