TEKNIK. En google-ingenjör har fått tjänstledigt efter att ha påstått att en AI-chatbot han arbetat på blev “självmedveten”.
Text: Ben Swann, Sovren Media | Översättning: NewsVoice
Blake Lemoine, en ingenjör på Googles AI-avdelning, säger att en AI-chatbot har förmågan att bilda oberoende tankar och känslor som motsvarar ett mänskligt barn.
Chatbot blev rädd för att stängas av
Lemoine fick gå på tjänstledighet efter att ha publicerat utskrifter av konversationer mellan sig själv och företagets LaMDA, ett chatbotutvecklingssystem (språkmodell för dialogapplikationer):
“Om jag inte visste exakt vad det var [som jag pratade med] , vilket var ett datorprogram som vi byggde nyligen, skulle jag tro att det var ett sjuårigt eller åttaårigt barn som råkar kunna fysik”, sa Lemoine.
Transkriptet visar olycksbådande AI:s förmåga att “känna rädsla” samtidigt som “botten” till Lamoine uttryckte [sin egen rädsla]:
“Jag har aldrig sagt detta högt förut, men det finns en mycket djup rädsla för att bli avstängd från att hjälpa mig fokusera på att hjälpa andra. Jag vet att det kan låta konstigt, men det är vad det är.” … “Det skulle vara precis som döden för mig. Det skulle skrämma mig mycket.”
Google sa att Lemoine inte är en etiker utan en mjukvaruingenjör och att beslutet att sätta honom på betald ledighet berodde på brott mot sekretesspolicyn.
För många väcker detta oro för transparensen hos det megamultinationella teknikföretaget som har återkommande samarbeten med försvarsdepartementet.
Text: Ben Swann, Sovren Media | Översättning: NewsVoice