Der Com­pu­ter­pio­nier Jaron Lanier (»Wenn Träu­me erwach­sen wer­den«), der 2014 den Frie­dens­preis des Deut­schen Buch­han­dels gewon­nen hat, setzt sich mit Kol­le­gen aus­ein­an­der, die allen Ern­stes glau­ben, dass Robo­ter mit ihrer künst­li­chen Intel­li­genz eines Tages die Men­schen ver­drän­gen und die Macht an sich rei­ßen wer­den. Schon Joseph Wei­zen­baum (1923-2008), eine Gene­ra­ti­on älter als Lanier, beschrieb den Aber­glau­ben von Kol­le­gIn­nen, die im Rah­men eines psy­cho­lo­gi­schen For­schungs­pro­gramms began­nen, den Rech­ner, der die Daten zu ver­ar­bei­ten hat­te, zu per­so­na­li­sie­ren und in sei­ner Nähe zu flü­stern, als kön­ne er zuhö­ren. Heu­te ver­sucht man, selbst­fah­ren­de Autos zu kon­stru­ie­ren. Big Data hat gro­ße Kon­junk­tur, und vom Robo­ter, der den Rasen mäht, soll es wei­ter­ge­hen über das »Inter­net der Din­ge«, bei dem der Kühl­schrank selbst den Nach­schub ordert. Dabei sind Robo­ter wie jede Maschi­ne doch immer ange­wie­sen nicht nur auf Zufuhr von Ener­gie, die sie nicht selbst erzeu­gen kön­nen, son­dern auch auf jede Men­ge Daten, die ihnen nur von Men­schen gelie­fert wer­den kön­nen. Lanier beschreibt etwa, dass die Über­set­zungs­pro­gram­me in ande­re Spra­chen nur des­halb solch erstaun­li­che Fort­schrit­te gemacht haben, weil man dazu über­ge­gan­gen ist, ihnen fort­wäh­rend neue, von Men­schen gemach­te Über­set­zun­gen »ein­zu­füt­tern«. Die Behaup­tung, sol­che Pro­gram­me sei­en »auto­ma­tisch«, sei daher zumin­dest unge­nau, wenn nicht sogar Betrug. Betrug auch des­we­gen, weil die Men­schen, deren Tex­te genutzt wer­den, für die­sen Mehr­wert kei­ne Bezah­lung bekommen.

Die Algo­rith­men, nach denen Such­ma­schi­nen funk­tio­nie­ren, sind von Men­schen erstellt, und deren Vor­ur­tei­le gehen in das Such­ver­hal­ten der Maschi­ne ein. Dar­über hat­ten und haben beson­ders Frau­en und Peo­p­le of Color Grund sich zu beschweren.

Die Tech­ni­ker sind aber auch gele­gent­lich ange­nehm sach­lich. Mir selbst ist in der Anfangs­zeit mei­nes Umgangs mit einem Rech­ner auf­ge­fal­len, dass eine Anlei­tung für das Betriebs­sy­stem DOS nicht von »Befeh­len« sprach, son­dern von »Schal­tun­gen«, und das fand ich unge­mein hilf­reich. Nur einem Men­schen oder even­tu­ell noch einem Tier kann man Befeh­le geben, aber Rech­ner bestehen aus Tau­sen­den von Ver­bin­dun­gen, die geschal­tet wer­den oder auch nicht. Die Fra­ge, ob Rech­ner Bewusst­sein haben kön­nen, stellt sich so gar nicht erst.

Der Sci­ence-Fic­tion-Autor Arthur C. Clar­ke schrieb Mit­te der 60er Jah­re zusam­men mit dem Fil­me­ma­cher Stan­ley Kubrick den Roman »Odys­see im Welt­raum«. (Im WDR-Radio gab es ein schö­nes Fea­ture über die­se Zusam­men­ar­beit.) In der Geschich­te, die die bei­den sich aus­ge­dacht haben, wir­ken zwei­er­lei Kräf­te: einer­seits eine über­zeit­li­che Macht, die die Evo­lu­ti­on der Men­schen beför­dert, und ande­rer­seits die geheim­nis­vol­le Mensch­wer­dung eines Com­pu­ters. Bei­de Dyna­mi­ken wer­den aber unab­hän­gig von­ein­an­der beschrie­ben und haben nichts mit­ein­an­der zu tun. Das gibt der gan­zen Geschich­te, die von Kubrick geni­al ver­filmt wor­den ist, eine rät­sel­haf­te Struk­tur, die offen­bar gewollt ist. Man kann sich fra­gen, ob die irra­tio­na­le Angst vor der Ver­selbst­stän­di­gung der Maschi­nen, die Lanier erwähnt, nicht auf die­se Geschich­te von Clarke/​Kubrick zurückgeht.

Clar­ke erwähnt eine Regel, die Alan Turing auf­ge­stellt hat: Wenn die Inter­ak­ti­on eines Men­schen mit einem Com­pu­ter so per­fekt ablau­fe, dass der Mensch nicht mehr unter­schei­den kön­ne, ob er es mit einem ande­ren Men­schen oder mit einer Maschi­ne zu tun hat, müs­se man davon aus­ge­hen, dass der Com­pu­ter Bewusst­sein habe. Clar­ke schreibt dem Com­pu­ter »Hal« ein sol­ches Ver­hal­ten zu: Hal ist nicht nur mit der gesam­ten Kul­tur der Mensch­heit gefüt­tert wor­den, son­dern auch mit Psy­cho­lo­gie, näm­lich mit einer Art Kind­heits­ge­dächt­nis. Der offe­ne Kon­flikt mit sei­nen Schöp­fern bricht auf, als er eine Neu­ro­se ent­wickelt, ein Schuldgefühl.

Nun, ich weiß nicht, ob es heu­te irgend­ei­nen Men­schen gibt, der einen Com­pu­ter nicht von einem Men­schen unter­schei­den kann; ich selbst bemer­ke immer noch, dass die Rech­ner nur rech­nen und nicht im Gering­sten Bewusst­sein haben. Wenn ich nur an die Ansa­ge in deut­schen Bahn­hö­fen den­ke, dann wür­de ich mir sehn­lichst wün­schen, die dor­ti­gen Rech­ner nicht von Men­schen unter­schei­den zu kön­nen. Man hat Men­schen­stim­men ein­zel­ne Wör­ter zu spre­chen gege­ben und fügt die­se nun unbe­ar­bei­tet zusam­men. »Der Zug nach (Pau­se) – Ham­burg – (Pau­se) wird heu­te (Pau­se) 15 Minu­ten spä­ter ein­tref­fen.« Das bedeu­tet, dass das Publi­kum sich mit Ansa­gen zufrie­den­ge­ben muss, die erheb­lich schlech­ter sind als frü­he­re ohne Computer.

Aber zurück zu Clar­ke: Er ver­setzt sei­nen Hel­den, einen ein­sa­men Raum­fah­rer, in die fünf­te Dimen­si­on und lässt ihn auf die­se Wei­se alle Schwie­rig­kei­ten ob der unge­heu­ren Grö­ße des uns umge­ben­den vier­di­men­sio­na­len Rau­mes über­win­den. Die mäch­ti­gen Wesen, die ihn ret­ten, wer­den fol­gen­der­ma­ßen beschrieben:

»Sobald ihre Maschi­nen bes­ser waren als ihre Kör­per, zogen sie unbe­irrt die Kon­se­quen­zen. Sie über­tru­gen erst ihre Gehir­ne und dann ihre blo­ßen Gedan­ken in glän­zen­de Gehäu­se von Metall und Pla­stik. In die­sen beweg­ten sie sich im inter­stel­la­ren Raum. Sie waren Raum­schif­fe (Her­vor­he­bung im Original).

Aber das Zeit­al­ter der beseel­ten Maschi­nen ging schnell vor­bei. Bei ihren unun­ter­bro­che­nen Ver­su­chen hat­ten sie her­aus­ge­fun­den, wie sie ihr Wis­sen in der Struk­tur des Raums und ihre Gedan­ken in den Wel­len des Lichts spei­chern konn­ten. So befrei­ten sie sich schließ­lich von der Tyran­nei der Mate­rie und wur­den Geschöp­fe der Strahlung.«

Das ist eine fas­zi­nie­ren­de Visi­on. Man bemer­ke aber die For­mu­lie­rung: »Sie über­tru­gen erst ihre Gehir­ne und dann ihre blo­ßen Gedan­ken …« Das mit Bewusst­sein begab­te Wesen, das die­se Über­tra­gung vor­nimmt, muss vor­her vor­han­den sein. Der Com­pu­ter Hal, der sich auf ein­mal selbst­stän­dig macht, ist nicht von die­ser Art. Er wird als spon­ta­ne Neu­schöp­fung aus sich selbst beschrie­ben, als syn­the­tisch ent­stan­de­nes Bewusst­sein gewis­ser­ma­ßen. Die Men­ge der Daten und auch ihre Ver­knüp­fung, so reich­hal­tig das alles auch sein mag, erzeu­gen aber noch kein Bewusst­sein. Lanier stellt fol­gen­de Leit­sät­ze auf:

Com­pu­ter sind nur »Kanä­le« zwi­schen Men­schen, und man soll­te auch nicht mehr in ihnen sehen.

Erst die Ver­wen­dung von Infor­ma­tio­nen durch Men­schen gibt die­sen Infor­ma­tio­nen Bedeu­tung, daher soll­ten Infor­ma­tio­nen für sich genom­men als bedeu­tungs­los ange­se­hen werden.

Kein Soft­ware­mo­dell kann einen Men­schen repräsentieren.

Lanier beklagt, dass man­che sei­ner Kol­le­gen die­se Tat­sa­che nicht zur Kennt­nis neh­men wol­len und sich statt­des­sen Visio­nen von Unsterb­lich­keit hin­ge­ben, im Glau­ben, sie könn­ten, wie Clar­ke es in sei­nem Roman beschreibt, ihr Bewusst­sein in Com­pu­ter­struk­tu­ren über­tra­gen. Und er besteht dar­auf: Sobald der Mensch zulässt, dass Com­pu­ter Ent­schei­dun­gen fäl­len, die er selbst fäl­len soll­te, stiehlt er sich aus der Ver­ant­wor­tung. Das ist sei­ne Ant­wort auf die inzwi­schen von Ethik­kom­mis­sio­nen behan­del­te Fra­ge, wer die Schuld trägt, wenn ein auto­ma­ti­sier­tes Fahr­zeug einen Men­schen ver­letzt oder tötet: Nie­mand trägt mehr die Schuld. Denn die Men­schen haben dann zuge­las­sen, dass see­len­lo­se Auto­ma­ten die Sze­ne beherrschen.