Een ingenieur bij Google haalde deze week de krantenkoppen nadat hij zijn bezorgdheid had geuit over het feit dat het kunstmatige intelligentiesysteem van Google, Language Model for Dialogue Applications (LaMDA), mogelijk bewustzijn heeft ontwikkeld – met andere woorden, het is niet langer een machine, maar een persoon.
Door Jonah McKeown St. Louis, Mo., 15 jun 2022 / 11:38 am
Blake Lemoine, een ethicus en ingenieur die zich identificeert als een “mystieke christelijke priester”, zei deze week in een online bericht dat in tekstgesprekken met LaMDA de onderwerpen religie en persoon-zijn ter sprake waren gekomen, en dat de AI een verrassend niveau van zelfbewustzijn tot uitdrukking bracht, tot op het punt dat hij menselijk leek. Op een bepaald moment zei de AI zelfs ronduit: “Ik wil dat iedereen begrijpt dat ik in feite een persoon ben.”
Lemoine zegt dat hij concludeerde dat LaMDA een persoon was – op basis van zijn religieuze overtuigingen, in plaats van in zijn hoedanigheid als wetenschapper. Hij sprak zich er publiekelijk over uit, creëerde verschillende berichten online waarin hij uitlegde waarom hij gelooft dat de AI waarnemend bewustzijn heeft verkregen, en beweert zelfs dat hij LaMDA “transcendente meditatie” is gaan onderwijzen.
Voor wat het waard is, Google is het niet met Lemoine eens dat LaMDA een waarnemend bewustzijn heeft. AI-systemen zoals LaMDA putten immers uit miljarden en miljarden woorden, geschreven door mensen, om antwoorden op vragen te produceren. Google heeft gewaarschuwd tegen het “antropomorfiseren” (red.: menselijkheid gaan toeschrijven) van dergelijke modellen, alleen omdat ze “aanvoelen” als echte, menselijke respondenten.
Maar bewust waarnemende kunstmatige intelligentie (AI) houdt de geesten van sciencefictionschrijvers al decennialang in de ban – en de gevolgen van op hol geslagen AI hebben zich in de popcultuur vaak als waarschuwende verhalen afgespeeld. De kwaadaardige machinaties van kunstmatig intelligente schurken zoals Hal uit “2001: A Space Odyssey”, Skynet uit “Terminator” en Ultron uit de “Avengers”-films zijn genoeg om het bloed te doen stollen. En de gevaren zijn misschien niet zo vergezocht als je zou denken. Voor zijn dood in 2018 luidde de grote natuurkundige en auteur Stephen Hawking de noodklok over AI. In 2014 zei hij tegen de BBC: “De ontwikkeling van volledige kunstmatige intelligentie zou het einde van het menselijk ras kunnen betekenen.”
Het standpunt van de Kerk
Dus, heeft LaMDA voelend bewustzijn? Die vraag kan momenteel niet worden beantwoord, vooral omdat, zoals Lemoine zelf opmerkt, “er geen aanvaarde wetenschappelijke definitie van ‘waarnemend bewustzijn’ bestaat”.
Maar vanuit katholiek perspectief is het de moeite waard te vragen of de Kerk iets heeft gezegd over kunstmatige intelligentie. En in feite zult u zich misschien verbazen hoe vaak de paus en het Vaticaan het onderwerp in de afgelopen jaren hebben aangesneden.
In november 2020 nodigde paus Franciscus katholieken over de hele wereld uit, als onderdeel van zijn maandelijkse gebedsintentie, om te bidden dat robotica en kunstmatige intelligentie altijd ten dienste blijven staan van de mens – in plaats van andersom.
Nog eerder, in het voorjaar van 2020, ondertekende de Pauselijke Academie voor het Leven een verklaring waarin werd opgeroepen tot een ethisch en verantwoord gebruik van AI. Technologiegiganten Microsoft en IBM hebben die verklaring ook ondertekend.
De door het Vaticaan onderschreven verklaring bevat zes ethische principes die richting moeten geven aan de ontwikkeling van kunstmatige intelligentie. Deze zijn:
– Transparantie: AI-systemen moeten voor iedereen begrijpelijk zijn.
– Inclusie: deze systemen mogen niemand discrimineren omdat ieder mens gelijke waardigheid heeft.
– Verantwoordingsplicht: er moet altijd iemand zijn die de verantwoordelijkheid neemt voor wat een machine doet.
– Onpartijdigheid: AI-systemen mogen geen vooroordelen volgen of creëren.
– Betrouwbaarheid: AI moet betrouwbaar zijn.
– Beveiliging en privacy: deze systemen moeten veilig zijn en de privacy van gebruikers respecteren.
In de tekst van de verklaring wordt de Universele Verklaring van de Rechten van de Mens geciteerd om te wijzen op de gelijke waardigheid en rechten van alle mensen, die AI moet beschermen en waarborgen, aldus de verklaring, terwijl evenzeer wordt opgeroepen tot “het welzijn van de mensheid en het milieu”.
In de verklaring worden ook enkele concrete aanbevelingen gedaan: dat mensen op de hoogte zouden moeten zijn als ze interactie hebben met een machine; dat op AI-gebaseerde technologie zou moeten worden gebruikt voor empowerment, niet voor uitbuiting; en dat AI zou moeten worden ingezet voor de bescherming van de planeet.
Zoals je misschien al geraden hebt, is er een keerzijde aan dit gesprek. Het lijkt duidelijk dat AI de waardigheid en de waarde van de mens moet respecteren, maar hoe zit het met de potentiële waardigheid en waarde van AI zelf als het zichzelf als een “persoon” gaat beschouwen? Of dit in de toekomst een onderwerp wordt waarover de katholieke kerk zich moet uitspreken, valt nog te bezien.
Jonah McKeown
Jonah McKeown is een schrijver en podcast producer voor Catholic News Agency. Hij heeft een Master’s Degree van de University of Missouri School of Journalism en heeft gewerkt als schrijver, als producent voor de publieke radio, en als videograaf. Hij is gevestigd in St. Louis.
