ChatGPT: Chancen und Risiken der revolutionären Entwicklung

Wer kennt es mittlerweile nicht, der bekannteste kleine KI-Helfer im Berufsalltag: ChatGPT. Das innovative System mit einer Kombination aus fortschrittlicher Künstlicher Intelligenz und menschenähnlicher Chat-Kommunikation eröffnet ChatGPT eine Revolution im Business-Alltag. Es bietet den Nutzenden neue Möglichkeiten und stellt gleichzeitig in diesem Schritt neue Herausforderungen, Risiken und auch Chancen dar.

In diesem Blog-Beitrag wollen wir uns mit dem Einsatz von ChatGPT im Allgemeinen auseinandersetzen. Zudem betrachten wir die damit verbundenen Vorteile, Chancen, Risiken und Bedrohungen, die durch die technische Entwicklung einhergehen.

ChatGPT: Der Hype um Schnelligkeit, produktives Arbeiten und Automatisierung

Die fortschreitende Entwicklung der Künstlichen Intelligenz hat in den letzten Jahren zu einer Vielzahl von Anwendungen und Innovationen, sogenannte AI- oder auch KI-Tools geführt. Eine dieser bahnbrechenden Neuerungen ist ChatGPT, ein System zur Texterstellung, das auf dem Konzept des generativen Pre-Training Transformers basiert. Diese Technologie wird unsere Art und Weise, wie wir mit Computern interagieren, grundlegend verändern.

Was ist ChatGPT?

ChatGPT ist ein interaktiver Chatbot, der von OpenAI entwickelt worden ist, um menschenähnliche Unterhaltungen zu führen und den Fragen der Nutzenden zu beantworten. ChatGPT basiert dabei je nach Abonnement und Modell auf GPT-3.5 oder GPT-4.0. Mit dem breiten Wissensspektrum aus diversen Datenbanken und Ergebnissen aus dem World Wide Web kann ChatGPT Informationen zu verschiedenen Themen liefern.

Wie funktioniert ChatGPT?

Die Funktionsweise von ChatGPT basiert auf maschinellem Lernen, das auf einer riesigen Menge an Textdaten trainiert wurde. Es nutzt Transformer-Architekturen, um natürliche Sprache zu generieren und auf menschliche Interaktionen auf Textbasis zu reagieren. Seine Fähigkeit, kontextbezogene Antworten zu produzieren, macht es zu einem leistungsstarken Werkzeug für die Kommunikation. So kann ChatGPT beispielsweise als virtueller Assistent eingesetzt werden, um Kunden bei technischen Supportanfragen zu helfen oder allgemeine Fragen zu beantworten. Die Eingabe oder auch die Frage der Nutzenden wird als „Prompt“ bezeichnet.

KI- und AI-Tools, wie ChatGPT und Ihre Chancen und Vorteile im Alltag

IT-Sicherheit ist heute mehr denn je ein zentrales Thema, sowohl für Unternehmen, als auch für Privatpersonen. Die steigende Anzahl von Cyberangriffen und die zunehmende Komplexität der Angriffsmethoden erfordern innovative Lösungen, um dieser Bedrohung wirksam entgegenzutreten. In diesem Zusammenhang können auch KI- oder auch AI-Tools, sowie ChatGPT als ein Teil der Lösung betrachtet werden.

Die Vorteile und Chancen mit ChatGPT

Welche Vorteile oder positive Aspekte ChatGPT bei Nutzung für Sie haben kann, erfahren Sie in diesem Abschnitt:

Recherche und Texterstellung

ChatGPT kann Ihnen bei vielen Aufgaben unterstützende Hilfestellung bei diversen Aufgaben leisten: Vom Verfassen von Texten, Aufsätzen, Reden und allgemeine Recherchen bis hin zu Zusammenfassungen zu einem gewünschten Thema. Sogar die Verbesserung bereits vorhandenen Texten kann mit ChatGPT überprüft werden und nach Rechtschreibfehler und Grammatik entsprechend optimiert werden.

Coding und Debugging

Vor allem Entwickler können sich über den Einsatz von ChatGPT im Arbeitsalltag freuen. Lästiges Recherchieren nach der Codebespielen oder den benötigten „Schnipseln“ für die Umsetzung des aktuellen Projektes werden von der KI geliefert. Ebenfalls die Fehlerbeseitigung im Code, wie logischer Fehler oder auch Syntaxfehler kann ChatGPT aufspüren und Sie darauf hinweisen, wo sich der Fehler befindet bzw. als auch wie Sie Ihren Code effizienter gestalten können. Somit werden Schwachstellen eher gefunden, bevor diese weiter übermittelt werden.

Cyberangriffe erkennen und analysieren

ChatGPT kann Ihnen helfen, vergangene und zurückliegende Angriffe zu analysieren und zu prognostizieren. Durch die Analyse erhalten Sie eine Antwort, welche Taktiken Angreifende verwendet haben und können Ihre IT-Sicherheit mit den entsprechenden Schutzmaßnahmen aufrüsten, fördern und stärken.

Forensische Analysen durchführen und Ursachen finden

Ebenfalls lässt sich ChatGPT dafür nutzen, bereits vorgefallene Sicherheitsvorfälle zu untersuchen und dessen Ursache zu bestimmen, warum die bisher integrierten Verteidigungsmaßnahmen nicht gegriffen haben und welche Schritte man einleiten sollte, um diese Lücken zu schließen. Ohne KI-Tools sind forensische Analysen und die manuelle Korrelation von Sicherheitsdaten mühsam und sehr zeitaufwendig.

IT-Sicherheit konfigurieren und automatisieren

Der Wunsch nach Automatisierung in Bezug auf die immerwährende und steigende Masse an Datenhandling in der IT ist nachvollziehbar. Die Herausforderung liegt hier dies effizient und einwandfrei zum „Laufen zu bekommen“. Grundlage ist hier, dass die meisten Sicherheitstools und -systeme richtig konfiguriert werden. ChatGPT kann bei der Einrichtung von automatisierten Systemupdates und bei Regelerstellung der Firewall, Intrusion Prevention-Systemen und der Serverkonfigurationen helfen. Zudem ist es möglich, Fehler in der Konfigurationen aufzudecken und somit die Schwachstellen zu minimieren.

Wissensdefizite aufdecken und Fachkräftemangel beseitigen

Da ChatGPT auf eine Vielzahl an mit Wissen gefüllten Datenbanken zugreifen kann, die ein einzelner Mensch sich nicht aufgrund der Masse der Informationen lernen, speichern und anwenden kann. Somit können KI-Tools als Lückenfühler bei Unsicherheit und Recherche helfen, um die Aufgabe entsprechend umzusetzen. Zudem herrscht in einigen Branchen Fachkräftemangel, die durch die Verwendung von ChatGPT durch Automatisierung von Prozessen, Verringerung der Abhängigkeit von manuellen Interventionen zum Teil behoben werden kann. Somit können sich IT-Abteilungen auf die anspruchsvollen Aufgaben konzentrieren und die administrativen werden von der künstlichen Intelligenz übernommen.

AI-Tools Nachteile, Risiken und Bedrohungen durch Künstliche Intelligenz

ChatGPT befindet sich trotz seines technologischen Fortschrittes noch in seinen Anfängen. Die Bedenken bei der Nutzung solcher Tools sind nicht unbegründet.

Nachteile von AI-Tools

Im folgenden Abschnitt gehen wir auf die Nachteile bei der Verwendung von solchen KI-Tools ein:

Fehlende Menschliche Intuition

Obwohl ChatGPT in der Lage ist, große Datenmengen zu analysieren, fehlt dem Tool die menschliche Intuition und auch Erfahrung, die bei der Bewertung der Relevanz von den entsprechenden Informationen essenziell ist. Dadurch besteht die Gefahr, dass wichtige Aspekte übersehen oder unterschätzt werden.

Manipulation durch Kriminelle

ChatGPT kann von Kriminellen dafür genutzt werden, um Angriffe zu optimieren und Sicherheitsmaßnahmen zu umgehen. Die entwickelte Technologie der KI-Tools kann dazu missbraucht werden, um gefälschte Nachrichten oder Phishing-Angriffe zu generieren, die für den Menschen schwer von den realen Kommunikationen zu unterscheiden sind. Mehr dazu finden Sie im unteren Abschnitt bei den Risiken und Bedrohungen.

KI-Tools und der Datenschutz

Die Verwendung von solchen AI-Tools in der IT-Sicherheit erfordert den Zugriff auf große Mengen von Daten, darunter meist auch sensible Kundendaten. Das stellt aus Sicht des Datenschutzes eine grundsätzliche potenzielle Gefahr dar, falls diese Informationen „abgegriffen“, in falsche Hände geraten oder unsachgemäß genutzt werden.

Was viele Nutzende nicht über ChatGPT wissen, dass die öffentlich zugängliche Version von ChatGPT die eingegebenen Daten nicht für sich behält, sondern diese für zukünftige Anfragen genutzt werden.

Daher sollten auch Nutzende eine entsprechende und angemessene Sicherheitsschulung und – Ausbildung zu der Verwendung des Tools, ChatGPT erhalten.

ChatGPT: Risiken und Bedrohungen durch KI-Tools

Nicht nur Privatpersonen, Unternehmen und Cybersicherheitsexperten nutzen die effizienten und generativen KI-Tools für Ihre Zwecke. Die Rede ist hier von Hackenden und Cyberkriminellen, die AI-Tools dazu nutzen Ihre kriminellen Absichten weiter voranzutreiben.

Folgende Szenarien sind dabei möglich:

Erstellung von Malware und Mutationen

Wie oben beschrieben ist ChatGPT ein Tool zur Erstellung von Texten und kann somit auch Code für Malware reproduzieren und für Cyberkriminelle erstellen. Die Daten dafür bekommt es ja entsprechend aus den Datenbanken des World Wide Webs. Auch obwohl die OpenAI-Entwickler von ChatGPT diese Aufforderung als explizit illegal oder bösartig festgelegt haben, kann man diese als Nutzende relativ leicht umgehen.

Der Clue liegt hierbei in der Formulierung: Hackende bitten einfach ChatGPT um die Generierung eines Penetrationstest, um diesen entsprechend zu optimieren und umzuwandeln. Hackende können die Sicherheitsmaßnahme eines Unternehmens problemlos umgehen, in dem diese verschiedene Mutationen derselben Malware entwickeln und nutzen. ChatGPT kann mühelos eine andere Malware-Version erzeugen, und das automatisch und bei Bedarf.

Phishing und Social-Engineering Angriffe auf einem neuen Level

Angreifende nutzen meist als ersten Schritt Phishing-Mails, um das Unternehmensnetzwerk zu infiltrieren. Von diesem Punkt aus, können unterschiedliche kriminelle Strategien für Folgeangriffe gefahren werden. Es gibt sogar Dienstleister im Dark Web, die diese Dienstleistung als „Access-as-a-Service“ mit guter Qualität anbieten. Es ist, wie bei so Vielem auch hier, eine Frage des Preises, mehr nicht.

Was momentan für den Faktor Mensch spricht, ist das sowohl die derzeitige Technik mit oder ohne die Kombination der menschlichen Intuition in der Lage sind, Attacken abzufangen. Daher starten die Kriminellen entweder in der Masse (milliardenfach) diesen Angriff (über Botnetze) oder unter einem sehr hohen Aufwand mit menschlicher Interaktion.

Die Befürchtung liegt hier, dass mithilfe der künstlichen Intelligenz in kürzester Zeit überzeugende AI-Texte generiert werden können, die passgenau auf die vermeintlichen Opfer passen, sodass diese auf den entsprechenden Medien wie E-Mail, Direktnachrichten, Telefonanrufe, Chatbots, Social-Media-Kommentare und gefälschte Websites abstimmen und auf die Masche der Cyberkriminellen hereinfallen.

API-Angriffe: Schwachstellen finden und ausnutzen

Die Nutzung der Zahl der APIs in Unternehmen nimmt in den letzten Jahren exponentiell zu. Somit steigt auch die logischerweise die Anzahl der API-Angriffe. Laut dem API-Sicherheitsunternehmens Salt Security stieg die Zahl der einzelnen Angreifer, die es auf die APIs von Kunden abgesehen haben, allein in den letzten sechs Monaten des Jahres 2022 um 874 Prozent.

Cyberkriminelle könnten die KI-Technologie dafür nutzen, um API-Schwachstellen im IT-System des Unternehmens zu finden. Das ist normalerweise ein Prozess, der viel Zeit und Energie erfordert, aber durch ChatGPT radikal verkürzt wird. Die Angreifenden fordern ChatGPT einfach dazu auf, die API-Dokumentation zu prüfen, Informationen zu sammeln und API-Abfragen zu erstellen, um Schwachstellen effizienter und effektiver aufzudecken und somit können sie diese ausnutzen. Was eigentlich zur Aufdeckung der Schwachstellen gedacht war, wird in diesem Szenario gegen das Unternehmen und die Nutzenden verwenden und nun als Nachteil dargestellt.

Vorurteile, ethische Bedenken und das Verbreiten von Fehlinformationen

Eines den grundlegenden negativen Aspekten ist die Anfälligkeit von Vorurteilen. Schließlich kann ChatGPT nur die Antworten ausgeben, auf dass das System Zugriff hat und mit dem es „gefüttert“ wurde. Beruhen die Daten auf Vorurteilen oder Halbwahrheiten verstärken sich die bereits bestehende Ungleichheiten nicht unerheblich, aber mit potenziell gefährlichen Konsequenzen. Somit können auch Cyberkriminelle ChatGPT mit Falschinformationen versorgen und die Ausgaben des Bots manipulieren.

Zusätzlich kommen allgemeine Bedenken in Hinsicht auf den Datenschutz und der Sicherheit hinzu. In der Annahme, dass das GPT-Modell Informationen sammelt und speichert, besteht das Risiko, dass diese Daten gestohlen, manipuliert oder missbraucht werden, sofern kein ausreichender Schutz vorhanden ist.

Somit können Hacktivisten, terroristische Organisationen, Hate Groups und sogar staatlich finanzierte Angreifer ChatGPT dafür nutzen, um Zwietracht zu säen, in dem diese die demokratischen Werte untergraben, Verschwörungstheorien und computergestützte Propaganda (bspw. in Form von „Deepfakes“) verbreiten.

Fazit: Zukunft und Ausblick – Kann die Symbiose mit AI-Tools funktionieren?

AI- bzw. KI-Tools, wie ChatGPT sind lediglich Werkzeuge, die wir für unsere Zwecke und Ziele nutzen können. Sie sind nicht grundlegend schwarz oder weiß, gut oder böse. Dahingehend hat die Medaille zwei Seiten und es kommt auf denjenigen an, wie ChatGPT vom Nutzende für dessen Zweck benutzt wird.

Wie oben bei den Chancen und Vorteilen beschrieben, bieten die AI-Tools, wie ChatGPT ein steigendes Potenzial für verschiedene und vielseitige Einsatzmöglichkeiten. So können Routinearbeiten schon heute größtenteils oder sogar komplett mit einer KI-Lösungen automatisiert werden. Ebenso auch Aufgaben, welche regelmäßige Analysieren großer Datenmengen und eine schnelle Erkennung möglicher Angriffe auf Unternehmen und Privatpersonen beinhaltet. Sie sehen, heutzutage ist schon einiges möglich!

Dennoch dürfen die mit dieser Technologie verbundenen Risiken nicht außer Acht gelassen werden. Auch Cyberkriminelle können dieses Werkzeug, die KI- und AI-Tools für sich und ihre Ziele nutzen und somit Schaden bei Ihnen und Ihrem Unternehmen anrichten.

Programme und Systeme, welche auf dem Prinzip der künstlichen Intelligenz aufgebaut sind, basieren auf einem großen Wissens- und Datendepot und können daher recht überzeugend wirken, indem sie logisch argumentieren. Diese KI-Bots können sich auf Befehl und Programmierung des Angreifenden als reale Menschen ausgeben und authentische Inhalte zu einer Reihe von Themen erstellen. Wenn bestimmte Schlüsselwörter oder Themen in den sozialen Medien getriggert werden, kann diese erstellte Personen-Bot mithilfe von ChatGPT so reagieren, dass diese bestimmten Handlungen und Aufgaben verfolgt und vorantreibt.

Zusammenfassend lässt sich sagen, dass es eine spannende und interessante Entwicklung sein wird, die wir in Sachen künstlicher Intelligenz und AI-Inhalten erleben werden. Dahingehend ist eine sorgfältige Abwägung der Chancen und Risiken von großer Bedeutung, um den Einsatz von solchem Tool, wie beispielsweise ChatGPT verantwortungsvoll und effektiv zu gestalten.

Was unsere hausinterne Datenschutzabteilung der PSW CONSULTING zu ChatGPT sagt, können Sie im folgenden Beitrag lesen: ChatGPT und der Datenschutz.