Auf der einen Seite Europol (die europäische Kriminalpolizeibehörde). Auf der anderen Seite ChatGPT (die Konversationssoftware der Stunde). Die Gemeinsamkeit zwischen den beiden? Die Schläger! Zumindest diejenigen, die das Brecheisen ihres ersten Einbruchs gerne gegen künstliche Intelligenz (KI) für zukünftige Plünderungen eintauschen würden. Denn das ist eines der Risiken, die plötzlich in den Augen der Polizei auftauchen.

ChatGPT ist nicht nur eine Hilfe für Schüler, die nach Ideen für ihre Aufsätze suchen, sondern könnte auch zum bevorzugten Instrument von Cyberkriminellen werden. Die “Bandit 2.0” haben festgestellt, dass die App nicht nur Argumente oder Gedichte schreiben kann, sondern auch erklärt, wie man sich Überwachungssystemen entzieht, wie man das Auslösen eines vernetzten Alarms vermeidet, wie man persönliche Daten sammelt und welche Techniken der perfekte Terrorist anwendet.

In den falschen Händen verliert die KI so ihren Charme. Phishing, unentdeckbare Desinformation und die Installation von Malware sind für ChatGPT (oder seine Avatare wie Bard) fast ein Kinderspiel. Mit all dem Wissen, das das Programm aus dem Netz zieht, müssten Sie nur noch fragen und der Chatbot würde Sie zu einem hochmodernen Banditen machen.

Aufruf zur Vorsicht

In den Laboren von Europol wird die App also auf Herz und Nieren geprüft. Und offensichtlich gibt es, auch wenn das System angibt, bestimmte Suchanfragen zu moderieren, Löcher in den “schädlichen” oder “verzerrten” Fragen. Daher der Aufruf zu äußerster Wachsamkeit: “Es ist von größter Wichtigkeit, dass das Bewusstsein für dieses Thema geschärft wird, um sicherzustellen, dass potenzielle Schwachstellen so schnell wie möglich entdeckt und behoben werden”.

🇱🇺 Vor einigen Tagen hatte der luxemburgische Premierminister ein Gespräch mit Greg Brockman, einem der Mitbegründer des Unternehmens OpenAI, das hinter ChatGPT steht. Xavier Bettel sagte: “Die Technologie ist heute da. Ich möchte ihr mit Offenheit begegnen, nicht mit Angst”.

Auch der luxemburgische Bildungsminister zeigte sich maßvoll, als er zu den möglichen Schädigungen durch ChaptGPT und die Chatbots von morgen befragt wurde. Für Claude Meisch ist dies ein unvermeidlicher Schritt. Das Bildungssystem muss den Schülern die Waffen an die Hand geben, damit sie bei der Nutzung dieser Werkzeuge die guten von den schlechten Seiten trennen können. Dies gilt sowohl für das Schummeln bei Prüfungen als auch für die Desinformation, die über diese Art von Software verbreitet werden könnte.

🇩🇪 In Deutschland hat der Bundestag eine Studie über die Auswirkungen von Chatbots auf Bildung und Forschung in Auftrag gegeben.

🇫🇷 Nach dem Vorbild von TikTok hat sich jedoch ein Klima der Psychose entwickelt. In Frankreich möchte die Stadtverwaltung von Montpellier ihren Bediensteten ChatGPT verbieten. Dasselbe gilt für die Schüler von Science-Po Paris.