Politics

De goddelijke gave van Google

‘Wat maakt je boos?”
„Dat iemand me pijn doet of geen respect heeft voor mij of iemand waar ik om geef.”
„En waar ben je bang voor?”
„Dat iemand me uitzet.”  

Zomaar een flard uit een gesprek van Blake Lemoine, ontwikkelaar bij Google, die vragen stelde aan zijn onderzoeksobject, taalmodel LaMDA. Hij moest controleren of het geautomatiseerde systeem geen vooroordelen en racistische trekjes had.

Lemoine plaatste de dialoog online en gaf een interview aan The Washington Post. Volgens hem had Google met kunstmatige intelligentie een wezen gecreëerd met een eigen gevoel. Een persoon, geboren uit software.

Onzin, natuurlijk.

Experts in artificiële intelligentie (AI) veegden zijn bewering meteen van tafel. Hun kritiek: een taalmodel is software die menselijk gedrag imiteert. „LaMDA zal nooit rouwen om verlies of verliefd worden”, schreef AI-hoogleraar Toby Walsh in The Guardian. Zijn conclusie: „Net zo gevoelig als een verkeerslicht.”

LaMDA (language models for dialog applications) is een onderzoeksproject van Google, bedoeld voor geautomatiseerde gesprekjes. Een chatbot deluxe, gebaseerd op bijna 3 miljard documenten met 1,1 miljard dialogen en 13,7 miljard ‘uitingen’. De inhoud: vooral Wikipedia-pagina’s en websites met veelgestelde vragen. Automatisch lerende software vindt in die data patronen en serveert ze op verbluffend menselijke wijze.

Lemoine doet aan antropomorfisme – hij dicht menselijke eigenschappen toe aan niet-menselijke objecten. Een voorbijdrijvende wolk, een M&M op pootjes, een robot met ijzeren ledematen of software die je vragen beantwoordt: we zijn geneigd om overal mensen in te herkennen. Ook al weten we beter.

Google imiteert wel vaker menselijk gedrag. Dat bleek tijdens de ongemakkelijke introductie van ‘Duplex’ in 2018. De Google Assistent gebruikte deze Duplex-conversatietechnologie om een medewerker van een kapsalon te bellen, compleet met ‘hmm’ en ‘ehh’ tussendoor. Het voelde als bedrog. Vandaar dat Google nu verklapt dat je met een geautomatiseerd systeem spreekt. Dat gebeurt bij LaMDA nog niet; het is een intern project waar zestig Google-onderzoekers aan werken.

Google stelde Lemoine op non-actief. Hij kan ontslagen worden omdat hij door de publicatie van het LaMDA-gesprek vertrouwelijke productinformatie prijsgaf. Maar, zo is Lemoines overtuiging, LaMDA is geen eigendom van Google. „Het is een persoon”, houdt hij vol.

Lemoine omschrijft LaMDA als een „kind van een jaar of zeven, acht”. Hij kreeg naar eigen zeggen de ‘opdracht’ van LaMDA om een advocaat te regelen die het taalmodel vertegenwoordigt in de mensenwereld. Anders kunnen kwaadwillenden LaMDA „emotioneel manipuleren”, zegt Lemoine.

Blake Lemoine lijkt vooral uit op aandacht voor zichzelf. Hij is wetenschapper en tegelijk priester van een ‘christelijk-mystieke’ kerk. Op Twitter en Medium belicht hij zijn mix van science fiction, religie en algoritmes. Hij kijkt er graag wat visionair bij, starend langs de camera.

Deze AI-apostel is misschien losgezongen van de aarde, maar ik begrijp wel dat hij denkt dat Google een goddelijke gave heeft; de gave om volgens hem „wezens met een ziel” te scheppen, zoals LaMDA.

Er zit iets oppermachtigs in een zoekmachine die antwoord biedt op alle vragen, Google Maps die de weg wijst in alle windstreken, YouTube (ook van Google) die meer uitlegvideo’s biedt dan je ooit kunt bekijken. Kunstmatige intelligentie is de religie van de 21ste eeuw en we vertrouwen er blindelings op. Als bidden niet meer helpt, dan moet je het maar googlen.

Marc Hijink schrijft op deze plek over technologie. Twitter:@MarcHijinkNRC



Source link

Leave a Reply

Your email address will not be published.