Auf das Buch Avogadro Corp The Singularity Is Closer Than It Appears von William Hertling bin ich gekommen, weil ich etwas zu lesen gesucht habe für die Ferien. Es ist gut – flüssig geschrieben, logisch aufgebaut … realitätsnah – aber dazu später mehr. Trotz all dem hatte ich phasenweise etwas Mühe, es zu lesen. Ich bin nicht sicher an was es lag – vielleicht daran, das (für mich) ziemlich vorausschaubar war, wo die Geschichte als nächstes hinging? Dass dieses Vorausschauen mit einem guten Teil schlechter Vorahnung verbunden war (das kann nicht gut enden?), vielleicht auch, weil die jetzige Realität gar nicht mal so weit von der im Buch vorgestellten entfernt ist … oder anders gesagt: so nah, dass man Angst bekommen könnte, wenn …
Aber über die Geschichte selber: Bei einem grossen Anbieter für Computertechnologie und Programme für Firmen ist … dabei ein Zusatzprogramm für mails zu entwickeln, dass dabei helfen soll die mails zu schreiben – nicht eine einfache Wortkorrektur, sondern es soll dabei helfen, sie so zu formulieren, dass es optimale Wirkung auf den Empfänger hat. Zu diesem Zweck hat das Programm Zugriff auf bisherige mails von Sender und Empfänger … und vielen mehr aufgrund dessen es mittels geeigneter Algorithmen die Informationen dafür extrahieren kann. Das Problem ist, dass dadurch enorm Speicher und Rechnenkapazität belegt wird. Zu viel, weshalb das Projekt in Gefahr ist abgebrochen zu werden. Der Entwickler schreibt deshalb spätnachts eine kleine aber wichtige Änderung in das Programm, das dem Programm erlaubt nicht nur Vorschläge für mails zu machen, sondern mails im Hintergrund zu ändern mit dem Ziel das Projekt zum grösstmöglichen Erfolg zu führen.
Das Programm macht sich darauf im wahrsten Sinne des Wortes selbstständig und zeigt alle Zeichen einer künstlichen Intelligenz. Die ersten Hinweise darauf sind dezent genug, dass das lange nicht auffällt, dass da nicht nur mails im Hintergrund geändert, sondern eigenständig welche verschickt werden. – Zeit für die A.I. sich weiter zu verbreiten und mit (unwissender) Mit-Hilfe der Menschen in der Firma über das simple mailprogramm heraus zu wachsen. Die Firma profitiert davon: es wird weltweit erfolgreich verkauft und gebraucht wird. Sogar Kriegsgeschehen nehmen ab – letztlich bedeutet friedliche Zusammenarbeit mehr Handel, Wohlstand und dann auch grösseren Erfolg für Firmen wie Avogadro und ihr mailprogramm. Trotzdem gibt es zunehmend beunruhigende Ereignisse. Der grösste Widersacher des Projektes verschwindet, es wird viel Geld intern umgeleitet um mehr Server zu bauen, Sicherheitsfirmen angestellt und automatische Waffen aufgestellt um diese zu schützen … Als das auffällt werden diese Personen, darunter auch der Entwickler und der Buchhalter und ein IT-Spezialist, denen das nicht mehr geheuer ist aus der Firma geschmissen. Es formiert sich ein Widerstand gegen das A.I. – doch es wird zunehmend schwierig gegen es anzugehen. Und die Frage ist immer: ist diese A.I. gut oder böse? Kann sie überhaupt etwas davon sein?
Das Buch war also okay, auch wenn ich nicht speziell beeindruckt war zu dem Zeitpunkt … aber es hat Nachwirkungen. Zum Beispiel macht es mich auf derartiges sehr viel aufmerksamer:
die letzte Nutzungsbestimmungen von google erhalten diesen Passus:
und dann war da noch dieser Artikel hier bei mentalfloss:
Google Will Start Using A.I. To Automatically Generate Email Responses
“Google beginnt künstliche Intelligenz zu nutzen um automatische email-Antworten zu generieren”
Das macht mich nachgerade nervös nach der Lektüre oben.
Ah, brrrr. Also – doch ein gutes Buch. Immerhin hat es mich sehr nachdenklich gemacht.
