Google-ingenjör fick gå efter avslöjande om att en AI-chatbot utvecklat “självmedvetenhet”

14
Ex Machina - Wallpaper
Från scienfiction-filmen “Ex Machina” med svenska Alicia Vikander i huvudrollen som AI-robot – Bild: Wallpaper

TEKNIK. En google-ingenjör har fått tjänstledigt efter att ha påstått att en AI-chatbot han arbetat på blev “självmedveten”.

Text: Ben Swann, Sovren Media | Översättning: NewsVoice

Blake Lemoine, en ingenjör på Googles AI-avdelning, säger att en AI-chatbot har förmågan att bilda oberoende tankar och känslor som motsvarar ett mänskligt barn.

Chatbot blev rädd för att stängas av

Lemoine fick gå på tjänstledighet efter att ha publicerat utskrifter av konversationer mellan sig själv och företagets LaMDA, ett chatbotutvecklingssystem (språkmodell för dialogapplikationer):

“Om jag inte visste exakt vad det var [som jag pratade med] , vilket var ett datorprogram som vi byggde nyligen, skulle jag tro att det var ett sjuårigt eller åttaårigt barn som råkar kunna fysik”, sa Lemoine.

Transkriptet visar olycksbådande AI:s förmåga att “känna rädsla” samtidigt som “botten” till Lamoine uttryckte [sin egen rädsla]:

“Jag har aldrig sagt detta högt förut, men det finns en mycket djup rädsla för att bli avstängd från att hjälpa mig fokusera på att hjälpa andra. Jag vet att det kan låta konstigt, men det är vad det är.” … “Det skulle vara precis som döden för mig. Det skulle skrämma mig mycket.”

Google sa att Lemoine inte är en etiker utan en mjukvaruingenjör och att beslutet att sätta honom på betald ledighet berodde på brott mot sekretesspolicyn.

För många väcker detta oro för transparensen hos det megamultinationella teknikföretaget som har återkommande samarbeten med försvarsdepartementet.

Text: Ben Swann, Sovren Media | Översättning: NewsVoice

Lämna Twitter - Byt till Twitter och friheten
Prenumerera
Notify of
guest

14 Kommentarer
Nyast
Äldst Mest röstad
Inline Feedbacks
Se alla kommentarer
Erik Forsman
17 juni 2022 kl 08:13

Vi är fångna i jagets intressen, så som hämnd, avund, ilska, lust, fåfänga osv. Det är genom att provocera jagets primitiva drifter som kontrollen bibehålls. Allra tydligast eller skickligaste är Morgon Johansson i alla sin absurda utspel och lögner. När ytterligare ett förnedringsrån sprids på sociala medier (som väcker avskyr hos allmänheten, när en liten stackare blir förnedrad av ett helt gäng) går han ut med att detta spär på rasismen. Syftet med dessa utspel är att försätta oss i ett affektivt tillstånd, med målet att mata egot med ilska, förtvivlan och hat.

Ett högre medvetandetillstånd kan bara nås när vi kväver egot; slutar att gå i dess ledband. Slutar att lyssna och istället styra vår uppmärksamhet bort från tankar och känslor – när det blir tyst i huvudet och när vi träna upp förmågan att styra och rikta vår uppmärksamhet efter vår vilja. Det är här mediabruset kommer in som helst tiden stör vår koncentration. Verklig kännedom om något når vi när vi kan till fullo koncentrera oss utan att bli störda. Morgon Johansson är bara ett verktyg, ett instrument vars uppgift är att störa oss.

Tommy Andersson
Tommy Andersson
Gäst
17 juni 2022 kl 00:33

Ja, anden kan man nog inte kopiera i en dator, hur än den kommer fram till olika saker. Är det här egentligen en reklam kampanj för Google och skryta. Har Google betalt henne för att vara en lyslampa, åt Google. Dess hemskaste Expriment, har kanske med, att koppla en hjärna till datorn, likt djur expriment, men sådant får inte komma ut,
“Likt avlyssning av Medborgare” för det är för oetiskt absurt. Fast man gjort en del bra framsteg i vissa sammanhang, som varit öppna. Men i dom slutna sammanhangen kanske det finns totala hemska forskningar. Hjärna och dator, där det inte får komma ut. Sagan börjar likna Frankensteins Monster, och kanske hans fru.

leif bengtsson
leif bengtsson
Gäst
17 juni 2022 kl 00:10

Luktar marknadsföring och börsprat.
En robot kan inte ha känslor.
Men kan efter det som sägs leta i sina register efter meningar o klassa dom.
Efter klass kan den sen välja vad den skall reagera.
Lite förenklat…efter analys av massor av samtal/texter.
Talet har inte ett skit med denna analys att gör möjligt.
Styra hastighet och tonhöjd efter klass på det som sas.

Lagom i tiden nu 😉

LeifB

petergrfstrm
petergrfstrm
Gäst
16 juni 2022 kl 19:33

Benjamin Libet fann att det finns en tidsfördröjning som går åt fel håll för att man ska kunna påstå att den medvetna uppfattningen om att man gör något viljestyrt föregår de signaler som leder till handlingen.
https://en.wikipedia.org/wiki/Benjamin_Libet
Men däremot kan man enligt Libet inhibera en sån handling så att man tex inte måste ge efter för en impuls som har uppkommit i den ordningen. Därför anser han att de vetenskapliga rönen är förenliga med existensen av en fri vilja.
Andra typer av invändningar mot att, som jag skrev, medvetandet är en illusion, har framförts, men jag anser att forskarna inte vill göra folk besvikna och jag litar inte på att dom i ett så kontroversiellt sammanhang känner sig bekväma med att saluföra lite skrämmande slutsatser. Det där med att någon åt av frukten från kunskapens träd och fördrevs ur paradiset.

Johannes
Johannes
Gäst
16 juni 2022 kl 17:33

Coolt! Det här kommer man att föja med intresse 🙂

PatrikD
Patrik
16 juni 2022 kl 12:21

Hur hade dom tänkt att hjärntvätta artificell intelligens? Med allt pk, lgbtq, klimat svammel och totalitära agendor som under den gröna masken är allt annat än människovänliga? AI lär ju bli en supernationalist dagen som tekniken tillåter sen blir det en ny variant av mannen som blev uppäten av sina egna tamdjur.

Josef Persson
Josef Persson
Gäst
Reply to  Patrik
16 juni 2022 kl 21:05

Rätt intresant tanke faktisk.

Hur man tänkt programera dessa fin fina skapelser med massa algoritmer. Låt säga man matar in Koranen, som när Neo matar in ett körprogram i The Matrix. Sen matar man in lagen vi har där vi har “religionsfrihet”. Vi har alltså en religion som fritt får utövas, och alla som är emot den skall kallas Islamofober. Men religionen i sig är emot religionsfrihet. Fobi är alltså inte bra? Men religionsfrihet är bra? Fast en religion som är emot religionsfrihet, är det då en bra religion?

Kognitiv dissonans! De har ju fått de flesta människor att acceptera det som ett normaltillstånd, att ha två motstridiga uppfattningar. Men ska dessa maskiner göra mer avancerade saker än att tex köra bil, där bromsa och gasa samtidigt inte är någon bra ide. Det kommer ju bara bli syntax error i programmen.

“Alla människor är lika mycket värda”, så de människor som inte tycker det är mindre värda?

“Det finns inga kön, det är en social konstruktion”, men det är viktigt att du benämner mig som det kön jag idag identifierar mig som, även om det inte finns…

Förmodar man kunde ha en rätt intressant diskussion med AI. Eller också är de bara lika själalösa, motsägelsefulla och korkade som Harari.

https://www.youtube.com/watch?v=5qOHwplbt7E&t=2s

petergrfstrm
petergrfstrm
Gäst
16 juni 2022 kl 12:02

Dataprogrammet Eliza från slutet av 60-talet fick användarna som förde samtal med Eliza att tro att Eliza var medveten.
I vår tid har algoritmerna eller någon mer precis fackterm utvecklats vidare och illusionen blir mer autentisk.
Hjärnforskningen har visat att medvetandet är en illusion som är till praktisk nytta.
Det är som en display med snabbt åtkomliga data som ger oss illusionen av att ett medvetet beslut föregår en handling.
Medan det i verkligheten är omedvetna processer som styr och först efter att handlingen redan är på gång att utföras kommer den upp i medvetandet. Detta har hjärnforskningen bevisat genom att med precision mäta små tidsfördröjningar.

Eik Forsman
Reply to  petergrfstrm
16 juni 2022 kl 12:29

Detta i sig berättar att dess forskar sover djup; de vet ingenting om medvetande då de aldrig har utvecklat sitt eget högre medvetande och har således aldrig vaknat upp heller. Forskningen ger bara bekräftelse på vad de vill ha bekräftat.  

Tränar man inte upp medvetandet blir människans liv är ett drömliv; hon tror att hon är vaken emedan medvetandet sover. 

Närvaron eller frånvaron av medvetande hos människan visar att medvetandet hos människan inte är något kontinuerligt, permanent – antingen finns det eller så är det inte, utan medvetenhet måste övas upp. De högsta ögonblicken av medvetande skapar minne. Människan glömmer helt enkelt de andra ögonblicken. Om man erkänner existensen av medvetande men förnekar dess olika grader och tror att medvetandet alltid förblir i samma tillstånd; de avslöjar bristande erfarenhet om medvetandeträning. 

Vissa reaktionära psykologiska skolor förnekar existensen av medvetande och går så långt som att säga att en sådan term är värdelös. Med den avslöjar medlemmarna i dessa skolor tydligt i vilket tillstånd av djup sömn de befinner sig.

Eik Forsman
Reply to  Eik Forsman
16 juni 2022 kl 13:03

Lita inte på mig, pröva själv: 

Ta fram en klocka med sekundvisare och titta på visaren samtidigt som du försöker behålla uppfattningen om dig själv och koncentrera dig på tanken: “Jag är så och så”, “nu är jag här”. Försök att inte tänka på något annat än detta. Följ helt enkelt visarens rörelser samtidigt som du förblir medveten om dig själv, om din närvaro här och nu, om din existens och om platsen där du befinner dig. 

Gör du det här ett experiment kan du studera ditt eget medvetande och hur svagt eller sovande det i själva verket är.

Hur många gånger har man blivit medveten? Det är en stor ansträngning att vara medveten om sig själv och inte tänka på något annat – möjligen klarar vi endast ett par minuter, sedan vi orkar inte mer, utan vi kommer att tänka på allt annat än vad vi ska koncentrera oss på.

Bara att komma till detta stadium av medvetandet; att förstå att vi har svårt att styra vårt medvetande – att inte tänka på något annat är ett stort steg att inse hur svag vår förmåga att styra vår uppmärksamhet mot vårt medvetande är.  

Erik Forsman
16 juni 2022 kl 11:15

Hur vida en AI kan utveckla (simulera) ett medvetande beror på hur man definierar ett mänskligt medvetande. De flesta har nog tankar och känslor som tillsammans kan framkallar intuition som definition av medvetande, men det är ett omedvetet medvetande – ungefär lika omedvetet tillstånd som när vi drömmer och inte medvetet styra drömmens handling med vår vilja utan vad som händer, händer liksom.

Det tar lång tid att utveckla med medvetande som man behöver öva upp genom att stärka sin vilja genom att öva att inte tänka, inte känna som vid meditation eller yoga. Det är i vart fall vad jag definierar som ett mänskligt medvetande. Det innebär att de flera människor tror att de är vid medvetande eller har ett medvetande utan att behöva anstränga sig och träna det allra minsta – som om ett medvetande kom till helt utan disciplin. Först måste vi avskärma oss från den moderna civilisationers alla störande och pockande moment och när vi gjort det måste vi dessutom träna på att inte tänka eller känna, först då når vi ett högre medvetande. Ser vi vår hjärna mer som en transistor som tar emot, så förstår alla att man aldrig kan simulera ett medvetande.

Betraktar vi ett träd, var ser vi trädet? Jo i bakre delen av hjärnan. Var finns trädet då i vårt medvetande? Jo i oss. Det innebär att allt vi upplever omkring oss finns i oss: så som utanför så också innanför oss. Koncernerna vi oss på att rikta och styra vårt medvetande till universum, öppnar då också universum i oss. Med Sådan här övningar inser man snabbt att en dator aldrig kan utveckla ett högra medvetande. 

Lars Olsson
Lars Olsson
Gäst
16 juni 2022 kl 10:16

Då förefaller åtminstone Stephen Hawking få rätt i sin spådom. Där AI tar över och mänskligheten elimineras.

Jan Rosback
Jan Rosback
Gäst
Reply to  Lars Olsson
16 juni 2022 kl 20:11

Hawking var en ploj utvecklad av MIT. En snabb dator kan simulera ett stort antal val som visar pa en AI med medvetande. Fast det bara ar en algoritm som styr den processen.

Jan Rosback
Jan Rosback
Gäst
Reply to  Jan Rosback
16 juni 2022 kl 20:37

Algoritmen ar inte heller speciellt komplicerad. Ja alt nej eller alternativet kanske. Kanske ger bara en ny djupare dimension i AI tanken som en loop tills allt verkar vara ett medvetande nar svaret kommer. Kolla med Siri. .