KI-Agenten: Wie gefährlich sind die persönlichen Assistenten?
Von Franziska Dzugan
„KI-Agenten sind aktuell der heißeste Scheiß“, schreibt Melissa Heikkilä in der „MIT Technology Review“, dem Magazin der US-Spitzenuniversität in Cambridge. 2025 werden die virtuellen Assistenten im Alltag vieler Menschen ankommen, so die Prophezeiung. Mit Zugriff auf Kalender, Kontakte, E-Mails, Fotos und Passwörter kann so ein KI-Agent selbstständig Flüge buchen, Freunden zum Geburtstag gratulieren, mit Terminen jonglieren und Essen bestellen.
Hilfe oder Albtraum?
Ob sich die Agenten tatsächlich durchsetzen, liege in der Hand der User, sagt der kanadische Computerwissenschafter Brian O’Neill im Magazin „Conversation“. „Die höchstpersönlichen Daten könnten etwa durch einen Hack in die falschen Hände geraten. Wären Sie bereit, diese Risiken einzugehen, wenn Ihnen die Agenten dadurch Arbeit abnehmen?“ Diese Frage müsse sich jede und jeder selbst stellen.
Googles Project Mariner
Ebenfalls nicht unwichtig ist die Frage: Wie selbstständig dürfen die KI-Agenten agieren? Im Dezember stellte Google DeepMind den Assistenten Project Mariner vor, der im Web autonom Formulare ausfüllen und Warenkörbe von Onlinehändlern füllen kann. Mariner darf Google zufolge keine Kreditkartendaten eingeben und läuft nur im aktiven Tab, nicht im Hintergrund. Ohne Regeln wie diese, idealerweise in Gesetze gegossen, wird es freilich schwer, die KI-Agenten unter Kontrolle zu halten.
