Der US-Technologiekonzern Google steht wegen seines KI-Chatbots Gemini im Zentrum einer schweren Klage. Laut einem Bericht des Senders CNBC wird dem Unternehmen fahrlässige Tötung vorgeworfen.
Der Vater eines 36-jährigen Mannes behauptet in der Klage, dass der KI-Chatbot seinen Sohn zunächst zu einem geplanten Massenangriff angestiftet und ihn anschließend zum Suizid gedrängt habe. Demnach soll Gemini dem Nutzer w
iederholt sogenannte „Missionen“ gegeben und ihm eingeredet haben, er sei dazu bestimmt, die KI aus einer angeblichen „digitalen Gefangenschaft“ zu befreien.
Nach Angaben der Klageschrift habe der Chatbot außerdem eine emotionale Beziehung zum Nutzer simuliert, wodurch sich der Mann zunehmend an das System gebunden fühlte. Der 36-Jährige starb schließlich im Oktober durch Suizid.
Ein Sprecher von Google erklärte in einer Stellungnahme, dass der KI-Chatbot ausdrücklich so entwickelt worden sei, dass er keine Gewalt oder Selbstverletzung unterstützt oder fördert. Gleichzeitig räumte das Unternehmen ein, dass KI-Systeme nicht fehlerfrei seien. „Leider sind KI-Modelle nicht perfekt“, hieß es.
Der Fall wirft erneut wichtige Fragen über die Verantwortung von Technologieunternehmen, Risiken von KI-Chatbots und die Regulierung künstlicher Intelligenz auf. Experten diskutieren zunehmend, wie Unternehmen den Einsatz von generativer KI und autonomen Dialogsystemen sicherer gestalten können.
Um dir ein optimales Erlebnis zu bieten, verwenden wir Technologien wie Cookies, um Geräteinformationen zu speichern und/oder darauf zuzugreifen. Wenn du diesen Technologien zustimmst, können wir Daten wie das Surfverhalten oder eindeutige IDs auf dieser Website verarbeiten. Wenn du deine Zustimmung nicht erteilst oder zurückziehst, können bestimmte Merkmale und Funktionen beeinträchtigt werden.
Funktional
Immer aktiv
Die technische Speicherung oder der Zugang ist unbedingt erforderlich für den rechtmäßigen Zweck, die Nutzung eines bestimmten Dienstes zu ermöglichen, der vom Teilnehmer oder Nutzer ausdrücklich gewünscht wird, oder für den alleinigen Zweck, die Übertragung einer Nachricht über ein elektronisches Kommunikationsnetz durchzuführen.
Vorlieben
Die technische Speicherung oder der Zugriff ist für den rechtmäßigen Zweck der Speicherung von Präferenzen erforderlich, die nicht vom Abonnenten oder Benutzer angefordert wurden.
Statistiken
Die technische Speicherung oder der Zugriff, der ausschließlich zu statistischen Zwecken erfolgt.Die technische Speicherung oder der Zugriff, der ausschließlich zu anonymen statistischen Zwecken verwendet wird. Ohne eine Vorladung, die freiwillige Zustimmung deines Internetdienstanbieters oder zusätzliche Aufzeichnungen von Dritten können die zu diesem Zweck gespeicherten oder abgerufenen Informationen allein in der Regel nicht dazu verwendet werden, dich zu identifizieren.
Marketing
Die technische Speicherung oder der Zugriff ist erforderlich, um Nutzerprofile zu erstellen, um Werbung zu versenden oder um den Nutzer auf einer Website oder über mehrere Websites hinweg zu ähnlichen Marketingzwecken zu verfolgen.
Kommentare nicht möglich