Investeerder in machinaal leren waarschuwt dat AI als een god wordt

c

Door Noor Al-Sibai - 16 april 2023

Een seriële investeerder in kunstmatige intelligentie luidt de noodklok over de verbeten achtervolging van steeds slimmere machines, die volgens hem binnenkort de graad van goddelijkheid kunnen bereiken.

In een opiniestuk voor de Financial Times herinnert AI-megainvesteerder Ian Hogarth zich een recente anekdote waarin een onderzoeker op het gebied van machinaal leren waarmee hij vertrouwd was, hem vertelde dat we "vanaf nu" aan de vooravond staan van de ontwikkeling van kunstmatige algemene intelligentie (AGI) - een bekentenis die enigszins als een schok kwam.

"Dit is geen universele opvatting", schreef Hogarth, die opmerkte dat "schattingen variëren van een decennium tot een halve eeuw of meer" voordat AGI tot bloei komt.

Toch bestaat er een spanning tussen de expliciet naar AGI strevende doelstellingen van AI-bedrijven en de vrees van experts op het gebied van machinaal leren - en niet te vergeten het publiek - die het concept begrijpen.

"'Als je denkt dat we dicht bij zoiets potentieel gevaarlijks kunnen zijn', zei ik tegen de onderzoeker, 'moet je de mensen dan niet waarschuwen voor wat er gebeurt'", vertelt de investeerder. "Hij worstelde duidelijk met de verantwoordelijkheid waar hij voor stond, maar leek, zoals velen op dit gebied, meegesleept te worden door de snelheid van de vooruitgang."

Net als veel andere ouders zei Hogarth dat zijn gedachten na deze ontmoeting afdwaalden naar zijn vierjarige zoon.

"Terwijl ik dacht aan de wereld waarin hij zou kunnen opgroeien, ging ik geleidelijk over van schok naar woede," schreef hij. "Het voelde heel verkeerd dat beslissende beslissingen die elk leven op aarde zouden kunnen beïnvloeden, konden worden genomen door een kleine groep particuliere bedrijven zonder democratisch toezicht."

Bij de vraag of "de mensen die racen om de eerste echte AGI te bouwen een plan hebben om het wat rustiger aan te doen en de rest van de wereld inspraak te geven", merkte de investeerder op dat, hoewel het voelt als een "zij" versus "wij" situatie, hij moet toegeven dat ook hij "deel uitmaakt van deze gemeenschap" als iemand die in meer dan 50 AI startups heeft geïnvesteerd.

"Een drieletterig acroniem kan de enorme omvang van wat AGI zou vertegenwoordigen niet vatten, dus zal ik het noemen zoals het is: God-achtige AI," verklaarde Hogarth. "Een superintelligente computer die autonoom leert en zich ontwikkelt, die zijn omgeving begrijpt zonder toezicht nodig te hebben en die de wereld om zich heen kan transformeren."

"Om duidelijk te zijn, we zijn er nog niet," vervolgde Hogarth. "Maar door de aard van de technologie is het uitzonderlijk moeilijk te voorspellen wanneer we er precies zullen zijn. AI als een God zou een kracht kunnen zijn die onze controle of begrip te boven gaat, en die de veroudering of vernietiging van het menselijk ras zou kunnen inluiden."

Hoewel de investeerder zijn carrière heeft besteed aan het financieren en cureren van AI-onderzoek - hij ging zelfs zo ver dat hij zijn eigen durfkapitaalbedrijf begon en een jaarlijks "State of AI"-rapport lanceerde - lijkt er iets te zijn veranderd, waar nu "de wedstrijd tussen een paar bedrijven om God-achtige AI te creëren snel is versneld."

"Ze weten nog niet hoe ze hun doel veilig moeten nastreven en hebben geen toezicht," mijmerde Hogarth. "Ze rennen naar een finishlijn zonder inzicht in wat er aan de andere kant ligt."

Hoewel hij van plan is te investeren in startups die AI op een meer verantwoorde manier nastreven, zei de AI-megafinancier dat hij niet veel heeft kunnen losmaken bij zijn tegenhangers.

"Helaas denk ik dat de race zal doorgaan," schreef Hogarth. "Er is waarschijnlijk een grote gebeurtenis voor misbruik nodig - een catastrofe - om het publiek en de regeringen wakker te schudden."

[Vertaler: M.i. zal dit hele A.I. gebeuren uitlopen op het 'beeld' - wat geen letterlijk beeld hoeft te zijn - dat iedereen zal aanbidden. Iets waarvan de antichrist gebruik zal maken om de mensheid onder controle te houden.]

Bron: Machine Learning Investor Warns AI Is Becoming Like a God