Dreambeans – Googles neue Grusel-KI

In den vergangenen Tagen habe ich mit intensiv mit Googles neuester Zukunftsvision beschäftigt – einem KI-gestützten Dashboard, das Informationen aus sämtlichen Google-App-Aktivitäten sammelt und diese Daten zu täglichen „Stories“ verwurstet. Sinn und Zweck ist es laut Google, die Benutzer mit dem zu verbinden, was für sie „wirklich wichtig“ ist. Diese experimentelle App nennt sich .

Ich will auch gar nicht lange um den heißen Brei herumreden: Die Nutzung dieser App war für mich eine wirklich aufschlussreiche Erfahrung. Nur wohl nicht auf die Art und Weise, die Google sich vermutlich gewünscht hatte.

Google Dreambeans angetestet

Mit Erlaubnis seines Benutzers greift die Dreambeans-App auf sämtliche verfügbaren, aktuellen Aktivitätsdaten aus – die leider viel zu kurzlebige Intelligenzfunktion, die Google im Jahr 2012 temporär in Android integriert hatte. In der Praxis fühlt sich Dreambeans allerdings leider völlig anders an: Während Google Now fast magisch wirkte in seiner Fähigkeit, vorherzusehen, was sein Benutzer braucht, bevor er überhaupt danach gefragt hat, hebt Dreambeans dieselben Grundkonzepte auf eine völlig andere Ebene. Und die fühlt sich vor allem unheimlich und invasiv an. Sowohl hinsichtlich der gesammelten Daten als auch der Art und Weise, wie diese präsentiert werden.

Auf übergeordneter Ebene scheint das ganz allgemein die Richtung zu sein, in die sich KI branchenweit entwickelt. In meinen Augen wird das auf lange Sicht die allermeisten Menschen zunehmend “ hört. Vision und Praxis driften im Fall von Dreambeans jedenfalls gehörig auseinander, wie auch Googles . Die Dreambeans-App führt allerdings relativ deutlich vor Augen, wie umfassend das Bild wirklich ist, das entsteht, wenn sämtliche Daten zusammengeführt werden. In Kombination mit den dargestellten Unwägbarkeiten (beziehungsweise Halluzinationen) entsteht daraus ein höchst unangenehmes Gefühl roboterhafter Intimität.

Das ist allerdings kein Google-Problem, sondern ein allgemeines: Man bekommt inzwischen fast das Gefühl, als würden uns Tech-Unternehmen aktiv unter die Nase reiben wollen, wie viel sie tatsächlich über uns herausfinden können. Das fühlt sich grenzwertig gruselig an und dürfte dem allgemeinen Vertrauen in KI und Tech-Unternehmen nicht zuträglich sein.

Leider dürfte sich diese Situation jedoch mit Blick auf die Zukunft nicht verbessern – das wage ich zu prognostizieren, ohne vorher einen Chatbot konsultiert zu haben. (fm)

Dieser Artikel ist im Original bei unserer Schwesterpublikation Computerworld.com erschienen.