Das neue Apple Messages-Plugin von OpenAI ermöglicht ChatGPT den Zugriff auf die Messages-App auf einem Mac. Nach der Aktivierung können Nutzer ChatGPT bitten, Unterhaltungen zu suchen, diese zusammenzufassen, Antwortentwürfe zu erstellen und Nachrichten zu versenden.
Das hat verständlicherweise Fragen darüber aufgeworfen, was dies für den Datenschutz bei iMessage bedeutet. Ausgangspunkt ist das Verständnis dessen, was das Plugin tut – und, was ebenso wichtig ist, was es nicht tut.
Das OpenAI-Plugin umgeht die End-to-End-Verschlüsselungvon iMessage nicht ; es greift auf Nachrichten zu, nachdem diese auf einem autorisierten Gerät entschlüsselt wurden. Diese Funktion gibt es bei Anwendungen bereits seit Jahren in verschiedenen Formen.
Was dieses Plugin verändert, sind die Zugänglichkeit und der Umfang dieses Zugriffs. ChatGPT integriert die Möglichkeit, potenziell jahrelange Nachrichtenverläufe zu durchsuchen, zu extrahieren und zu analysieren, in ein Tool, das von Hunderten von Millionen Menschen genutzt wird. Bislang musste ein Nutzer dafür Nachrichten manuell kopieren, Daten exportieren oder spezielle Software verwenden. Jetzt kann er dies jedoch im Dialog mit der KI erledigen.
Das hat einige wichtige Auswirkungen auf Datenschutz und Sicherheit.
End-to-End-Verschlüsselung soll verhindern, dass Zwischenstellen eine Nachricht lesen können, während sie zwischen den Teilnehmern übertragen wird. Die Nachricht wird auf dem Gerät des Absenders verschlüsselt und auf dem Gerät eines autorisierten Empfängers entschlüsselt.
Sobald sie diesen Endpunkt erreicht hat, muss sie jedoch lesbar werden. Andernfalls könnte auch der Empfänger sie nicht lesen.
Genau hier kommt das „Messages“-Plugin ins Spiel. Auf einem Mac mit Apple-Silicon, auf dem der Nutzer ChatGPT die erforderlichen Berechtigungen erteilt hat, kann ChatGPT auf über „Messages“ verfügbare Unterhaltungen zugreifen, darunter iMessage, SMS und RCS. OpenAI gibt an, dass das Plugin lokal arbeitet und keinen eigenen, separaten Index dieser Nachrichten führt.
Die Verschlüsselung erfüllt also genau ihren Zweck. Das Datenschutzproblem beginnt erst nach der Entschlüsselung.
Hier werden Sicherheit und Datenschutz zu einer praktischen Frage. Vielleicht haben Sie sich gerade deshalb für iMessage entschieden, weil Sie der End-to-End-Verschlüsselung vertrauen. Aber jede Unterhaltung hat mindestens einen weiteren Teilnehmer, und Sie haben keine Kontrolle darüber, was dort geschieht.
Jemand, mit dem du kommunizierst, könnte ChatGPT Zugriff auf „Nachrichten“ gewähren und es auffordern, alle Unterhaltungen zu einem bestimmten Thema zu finden, alles zusammenzufassen, was du dieser Person über mehrere Jahre hinweg mitgeteilt hast, oder bestimmte Informationen aus diesen Unterhaltungen zu extrahieren.
Ähnliches hätten sie schon immer manuell tun können. Sie könnten eine Nachricht kopieren und in ChatGPT einfügen, sie weiterleiten, einen Screenshot machen oder ihren Nachrichtenverlauf exportieren.
Was sich jedoch grundlegend ändert, ist, dass es nun keinerlei Hürden mehr gibt, dies zu tun. Funktionen, die früher so viel Wissen und Aufwand erforderten, dass sie nur von relativ wenigen Menschen genutzt wurden, können nun zur Routine werden, da sie auf eine einfache Eingabeaufforderung reduziert sind.
Und die anderen Teilnehmer dieser Unterhaltungen haben keinerlei Einblick darin, ob dies auf einem der Endpunkte in ihrem Netzwerk geschieht.
Die nächste Frage ist, was passiert, wenn Informationen aus „Messages“ tatsächlich in einer ChatGPT-Interaktion verwendet werden.
Bei ChatGPT-Konten für Privatkunden können laut OpenAI die Unterhaltungen zur Verbesserung der Modelle verwendet werden, es sei denn, der Nutzer deaktiviert die Option „Modell für alle verbessern“. Temporäre Chats werden nicht für das Training verwendet. OpenAI gibt an, dass Daten aus ChatGPT Business, Enterprise und den API-Produkten standardmäßig nicht für das Training verwendet werden.
Das bedeutet nicht, dass Ihre privaten Nachrichten plötzlich öffentlich durchsuchbar werden oder dass ein anderer ChatGPT-Nutzer einfach danach fragen kann.
Dennoch gibt es eine wesentliche Änderung im Umgang mit den Daten. Informationen, die aus einer Ende-zu-Ende-verschlüsselten Unterhaltung stammen, können zur Verarbeitung an ein anderes Unternehmen übermittelt und – je nach Konto und Einstellungen des Nutzers – möglicherweise zur Verbesserung des Modells verwendet werden .
Die Person, deren Nachrichten verarbeitet werden, hat möglicherweise keine Ahnung davon undauch keine Möglichkeit, die ChatGPT-Einstellungen der Person am anderen Ende der Unterhaltung zu kontrollieren.
Natürlich ist – wie wir bereits in vielen anderen Fällen festgestellt haben – das, was große Cloud-Anbieter als rechtmäßig und vorschriftsmäßig bezeichnen, nicht immer das, was sie tatsächlich tun; ob Nutzer diesen behaupteten Einschränkungen und Mechanismen voll und ganz vertrauen sollten, ist daher ein anderes Thema. Wie das Sprichwort sagt: Der Käufer sei auf der Hut.
Für Regierungen und Organisationen, die unter den Anforderungen der Datenhoheit arbeiten, oder für jeden, der Bedenken hinsichtlich der Datenhoheit hat, stellt sich ein separates Problem.
End-to-End-Verschlüsselung ist unter anderem deshalb attraktiv, weil sie die Anzahl der Dritten reduziert, die Zugriff auf den Inhalt von Nachrichten haben. Wenn entschlüsselte Nachrichteninhalte anschließend an OpenAI weitergegeben werden, ändert sich dieses Vertrauensmodell.
OpenAI ist ein US-amerikanisches Unternehmen und unterliegt gültigen rechtlichen Anforderungen der USA zur Herausgabe von Informationen, die sich in seinem Besitz, seiner Verwahrung oder unter seiner Kontrolle befinden. Nach dem CLOUD Act können US-amerikanische Dienstleister unter bestimmten Umständen gezwungen werden, Daten herauszugeben, über die sie die Kontrolle haben – selbst wenn diese Daten außerhalb der Vereinigten Staaten gespeichert sind.
Das gewährt der US-Regierung jedoch keinen uneingeschränkten Zugriff auf ChatGPT-Daten. Es gelten weiterhin die rechtlichen Verfahren. Organisationen, die verschlüsselte Kommunikation speziell nutzen, um das Risiko einer Zuständigkeit ausländischer Gerichtsbarkeiten zu begrenzen, müssen jedoch bedenken, was geschieht, wenn Nutzer einen weiteren Dienstleister in den Informationsfluss einbinden.
Die Frage ist nicht einfach, wo die ursprüngliche iMessage verschlüsselt oder gespeichert wurde. Es geht darum, wohin die Informationen gelangen, nachdem jemand ein KI-System beauftragt hat, etwas damit zu tun.
In dieser Zeit zunehmender geopolitischer Konflikte und des Zusammenbruchs rechtlicher Grundlagen zum Schutz von Datenschutzvereinbarungen zwischen Ländern darf nicht außer Acht gelassen werden, ob Nutzer oder Organisationen glauben, dass sie es sich leisten können, darauf zu vertrauen, dass Regierungen sich an die Beschränkungen „gültiger“ rechtlicher Anforderungen halten.
Für IT- und Sicherheitsteams ist dies ein weiterer Grund, darauf zu achten, wie Mitarbeiter private Messaging-Anwendungen für berufliche Zwecke nutzen.
Erfahren Sie mehr darüber, welche Risiken in der digitalen Zusammenarbeit lauern.
Sensible Geschäftskommunikation findet bereits über iMessage, WhatsApp, Signal und andere Kanäle statt, die möglicherweise außerhalb der Unternehmenskontrolle liegen. Mitarbeiter besprechen Kunden, Vorfälle, Projekte, Personalangelegenheiten und andere geschäftliche Informationen über Anwendungen, die von den meisten Sicherheitsteams in Unternehmen weder überwacht noch kontrolliert werden.
Stellen Sie sich nun vor, was passiert, wenn ein Mitarbeiter einen privaten Mac nutzt, um einer KI-Anwendung Zugriff auf diese Unterhaltungen zu gewähren. Oder wenn ein externer Teilnehmer im Messaging-Netzwerk dieses Mitarbeiters, beispielsweise ein Geschäftspartner oder Kunde, dasselbe tut.
Informationen können von einem Unternehmenssystem in eine private Messaging-Anwendung, auf ein Endgerät des Mitarbeiters oder ein extern kontrolliertes Endgerät und potenziell in einen externen KI-Dienst gelangen. Auf diesem Weg können sie die unternehmensinternen Kontrollen zur Verhinderung von Datenverlusten, zur Datenaufbewahrung, zur Prüfung und zur genehmigten KI-Nutzung umgehen.
Das „Messages“-Plugin von OpenAI hat dieses Problem nicht verursacht. Es hat lediglich einen Teil des Weges erheblich benutzerfreundlicher gestaltet.
Das ist die größere sicherheitstechnische Auswirkung. End-to-End-Verschlüsselung bleibt ein wichtiger Schutz, kann jedoch nicht regeln, was mit Informationen geschieht, nachdem sie einen autorisierten Endpunkt erreicht haben. Da KI immer tiefer in die Anwendungen integriert wird, die Menschen täglich nutzen, müssen Unternehmen zunehmend nicht nur sichern, wie Informationen an einen bestimmten Ort gelangen, sondern auch, was mit ihnen geschehen kann, sobald sie dort angekommen sind.