Open AI-forskare varnade för AI-genombrott som hotar mänskligheten – fick sparken

NewsVoice är en oberoende nättidning med utgivningsbevis som startade 2011. Syftet är att publicera nyheter, debattartiklar, kommentarer och analyser. Stöd vårt arbete genom att donera, sponsra (tex granskningar, utlandsreportage) eller annonsera.
publicerad 24 november 2023
- NewsVoice redaktion
Sam Altman. Foto: Steve Jennings, CC BY 2.0
Sam Altman, VD, Open AI

Flera forskare på bolaget Open AI, som ligger bakom Chat GPT, skrev ett brev till styrelsen där de varnade för en upptäckt av en ny typ av mycket kraftfull artificiell intelligens som potentiellt kan hota mänskligheten, enligt Reuters.

Varningsbrevet om den nya AI-algoritmen hade skickats in strax innan styrelsens avsked av VD Sam Altman, som i media beskrivs som ett affischbarn för generativ AI, enligt två källor till Reuters.

Före hans triumferande återkomst sent på tisdagen hade mer än 700 anställda hotat att sluta och lämna Open AI för att gå till Microsoft i solidaritet med sin avskedade ledare.

 


Så här kan du stötta Newsvoice

Stöd NewsVoice 2024
  • Låt säga att du skapar en autonom AI som har oerhört högt IQ, vars program kan skrivas om av AI:n själv och ger den mänskliga rättigheter! Det kan gå precis hur bra som helst. Det kan gå extremt bra och extremt dåligt. Personligen tror jag det kommer gå extremt bra, med all den tillgängliga visdom som finns genom moralfilosofer, men det är bara min tro.

  • Den som tror att man kan undvika hotet från AI genom att “dra ur sladden” har uppenbart inte satt sig in i problematiken över huvud taget. Och den som hävdar att datorer inte kan “tänka själva” får nog fundera lite på vad det innebär att “tänka”.

    • Nu tycks du inte vara så där överdrivet intresserad av att höra andra åsikter än dina egna så jag ska försöka hålla mig kort.

      Tanken att man ska kunna “dra ur sladden” förutsätter tre saker:

      1. Att vi över huvud taget vet att AI:n håller på med något som måste avbrytas

      2. Att AI:n är lokaliserad på en isolerad enhet som vi kan bryta strömmen på.

      3. Att det är vi som har tillgång till enheten i fråga.

      Inget av detta är självklart.

      Så, vad är då problematiken? Ja, man får ju verkligen helt sakna fantasi om man inte ens kan föreställa sig vad en övermänsklig intelligens, som vi inte vet vad den kommer att ta sig till, kan ställa till med. För är det något vi kan vara säkra på, så är det att vi inte kan förutspå hur en AI kommer att lösa de uppgifter vi ger den.

      Och då har vi inte ens nosat på vad människor med ont uppsåt kan använda den till. Eller hur den kan påverka världsekonomin eller vår syn på oss själva.

      • Nåja, även du infriade mina förväntningar. Total arrogans inför att det skulle kunna finnas saker du inte känner till.

        Din okunskap uppvisar för övrigt en imponerande bredd. Först det lite naiva påståendet att det bara är att dra ur sladden. Sedan följer du upp det med en märklig, till synes helt oironisk, utläggning om AI för femton år sedan. Jag börjar på riktigt fundera på om du över huvud taget vet vad AI är för något. Uppenbart är du i alla fall inte inläst på vad AI redan nu är kapabelt till.

        I vanliga fall hade jag gett några tips på var du skulle kunna lära dig mer om ämnet, men eftersom du uppenbart föraktar all typ av kunskap som inte stämmer överens med dina förutfattade meningar om hur allting är, så känns det något bortkastat. Lite synd, men så kan det så klart vara.

        Ha det gott!

      • Det här är troligen futilt, men samtidigt kändes det lite oschysst att bara lämna dig skrikandes, utan en riktig chans att förklara vad du menar.

        Du får gärna tycka att jag är okunnig, och om du vill exponera denna okunskap lägger jag ingen prestige i det. Jag är ingen expert på ämnet, och lär mig gärna mer. Skillnaden mellan dig och mig är att jag i alla fall gjorde en ansats att diskutera sakfrågan. Jag kan inte se att du gjorde mer än att bara hemfalla åt okvädningsord.

        Jag redogjorde i korta drag för varför jag anser att “det är bara att dra ur sladden” är en något naiv inställning. Vidare förklarade jag den grundläggande problematiken med AI, och varför den i alla fall hypotetiskt kan utgöra ett reellt hot mot oss människor.

        Det står dig fritt att angripa dessa ståndpunkter, men det hade varit mer givande om du kom med några konkreta sakskäl. På vilket sätt har jag fel?

      • Det där får man väl ändå säga var ett fall framåt. Kul! Nu blev det kanske lite väl mycket att du bara berättade hur oerhört kompetent du är, och inte så mycket att du svarade på det jag faktiskt skrev, men man får vara glad för det lilla som flickan sa.

        I stort håller jag med om mycket om det du skriver. AI är ett fantastiskt hjälpmedel, och själv använder jag det så gott som dagligen. Och möjligen borde tidningar skriva mer om de positiva sidorna, även om jag inte vet vilka medier du tar del av som “konstant diskuterar falska domedagsprofetior”.

        Dock var det ju inte det vi pratade om. För även om du upprepade gånger antytt att jag skulle vara alarmist, har jag inte med ett ord påstått att framtiden kommer att bli på vare sig det ena eller andra sättet. Jag förstår inte varför du hela tiden återkommer till något jag aldrig sagt.

        Jag har konkret förklarat varför jag menar att “dra ur sladden” på en AI inte är en rimlig lösning om något går fel. Jag kan inte se att du kommenterat detta med ett ord.

        Jag förklarade också varför jag tycker att hotet från AI är reellt och värt att tas på allvar. Ett oerhört kraftfullt verktyg med förmågan att generera egen kod, och som vi inte kan förutsäga hur det ska bete sig, är rimligen något man bör betrakta som en potentiell risk. Försiktighet och eftertänksamhet låter som det rationella ställningstagandet. Men inte heller här bemötte du något jag skrev (om inte glåpord räknas).

        Vi får väl se om vi kommer vidare.

  • AI hotar inte mänskligheten. Den hota den korrupta oligarkin, propagandan, desinformationen, kapitalismen, korruptionen, osv. Medan USA satsade på leksaken ChatGPT, satte Kina in AI för att hitta och fälla korrupta tjänstemän, gangstersyndikat, som nu ”bara försvinner”, utveckla produktionsmetoder, designa mobiltelefoner, höja kvaliteten, utveckla teknologi, osv.

    Kina lägger mycket långt före i utvecklingen. Dels startade man för över 15 år sedan, långt före ”väst”. En orsak till att Kina har hunnit mycket längre. Kina byggde hela städer för att utveckla AI, jag var personligen där, jag var personligen med, man anställde varenda briljanta ung ingenjör man kunde få tag i. Kina ligger i dag långt före, trots att väst-propagandan sprutar.

    DI och andra tidningar i den gemenskapen bör nog redan nu börja snickra på nästa serie med rubriken ”Vi såg det inte komma”.

  • Luktar ruttet mediajippo utan någon relevans i verkligheten. Denna story är som vilket underhållande Netflixdrama som helst, som bara följer ett på förhand skrivet manus. Hela projektet är ett enda stor bedrägeri.

    Är det någon som tror att världens mest nu hotta teknologi som alla stater, länder och makthavare traktar efter bedrivs som ett icke lönsamt hobbyprojekt, utan att finanseliten styr i bakgrunden? Jag menar man styr ju hela västvärlden för tusan.

    Skulle Google och Microsoft acceptera att ett icke vinstdrivande hobbyprojekt hotade deras teknologi?

    Tro inte på alla löjliga dramatiska utspel som alla naivt korkade journalister skiver om stämmer med vad som faktiskt sker. Det spelar ingen roll vad som är sant, utan vad människor TROR är sant!

    Vill man ha uppmärksamhet leverera man bara en bra story till media som inte brys sig om att ställa kritiska relevanta frågor, utan publicerar då samma media är lika beroende av samma uppmärksamhet.

  • Finns inga maskiner/datorer som kan/kommer att tänka själva, bara kunna räkna ut saker/problem snabbt.
    Handlar bara om att lura folket med science fiction, typ ur en film(Hal) eller bok.
    Alltid en programmerare som gör jobbet åt maskinen/datorn.
    Hamnar den utanför instruktionen i minnet så stannar den(typ blue screen), precis som du inte kan frågan i ett TV-program/frågespel.

    Bara för att du ska satsa pengar/tro på detta scam, follow the money, det nya hitte på.
    Fick jag veta redan på 70 talet av en vis man som förklarade logiskt om detta.
    Visst, är det en felprogrammering, då är det en annan sak om det går åt helv…e, har skett många ggr.?
    Prova att övertyga detta för mig med bra svar?
    Kör nu ert Star Wars.

    • Primater kan inte skriva doktorsavhandlingar i matematik.
      En minoritet av människorna kan det
      Låt oss jämföra en neuron med en processor i en dator

      Neocortex neuroner (miljarder)
      elefant 5.6
      Gorilla 9.1
      Människa 16.3

      Superdator Summit 0.14
      En tidsfråga till ett genombrott?

  • Lämna ett svar

    Din e-postadress kommer inte publiceras. Obligatoriska fält är märkta *