”AI-gudfader” slutar på Google och varnar för teknikens konsekvenser
Geoffrey Hinton, även kallad "AI:ns gudfader", slutar på Google och varnar samtidigt för den senaste tidens utveckling inom fältet. Geoffrey Hinton har varit central i utvecklingen av den teknik som ligger bakom AI-system som ChatGPT.
– Just nu är de inte mer intelligenta än oss, vad jag kan se. Men jag tror att de snart kommer att vara det, säger Geoffrey Hinton, tidigare AI-expert på Google, till BBC.
Geoffrey Hinton sade nyligen upp sig från Google, bland annat via en uppmärksammad artikel i New York Times. Utöver att han är 75 år gammal och menar att ”det är dags att gå i pension”, handlar uppsägningen också om hans oro för AI-chattbotarnas framfart. Enligt BBC går han så långt som att ångra sitt arbete.
Han är i grunden datorforskare och kognitionspsykolog och har inriktat sig på artificiella neurala nätverk. Sedan 2013 fram till nu har han arbetat på Google Brain parallellt med sitt jobb på University of Toronto.
”Vi måste oroa oss”
Nu vädrar han sin oro för generativ AI.
– Det vi ser just nu är hur GPT-4 är mycket bättre än personer i mängden generell kunskap de besitter. När det handlar om att resonera är dessa system inte lika bra, men klarar fortfarande av att föra lättare resonemang. Givet utvecklingstakten, antar vi att saker och ting blir bättre ganska snabbt. Det måste vi oroa oss för, säger han till BBC.
Skillnad i typ av intelligens
I New York Times-artikeln varnar han också för hur “dåliga aktörer” kan använda tekniken för att göra ”dåliga saker”, och beskriver hur han ser på skillnaden mellan dessa AI-systems intelligens och vår intelligens.
– Det går att tänka sig att någon som Putin bestämmer sig för att ge robotar möjligheten att skapa sina egna delmål. Jag har landat i slutsatsen att den sortens intelligens vi utvecklar skiljer sig väldigt mycket från den intelligens vi människor har. Det är som att 10 000 människor delade sin kunskap med varandra på ett ögonblick, så fort de lärde sig något.
Google vill ta fortsatt ansvar
Geoffrey Hinton understryker dock att han tycker att Google har hanterat denna AI-framfart ”väldigt ansvarsfullt”.
I ett uttalande menar Googles chefforskare Jeff Dean att man är fortsatt dedikerade till ett ansvarsfullt förhållningssätt gentemot AI.
– Vi lär och förstår löpande de nyuppkomna riskerna samtidigt som vi fortsätter att vara modiga i vår innovation, säger han.
Läs mer om ämnet:
