OpenAI-sjef Sam Altman åpnet opp i et nylig intervju med Tucker Carlson. Han snakker om selvmord, etikk, personvern, militære kontrakter og hvorfor små AI-beslutninger kan få enorme konsekvenser.
Sam Altman er i dag en av de mest innflytelsesrike teknologilederne i verden. Han leder selskapet bak ChatGPT, som brukes av hundrevis av millioner mennesker daglig. I intervjuet med Tucker Carlson innrømmer han at ansvaret føles så tungt at han ikke har hatt en ordentlig god natts søvn på tre år.
— Jeg sover ikke så godt om natten. Det er mye jeg føler vekten av, men kanskje ingenting mer enn det faktum at hundrevis av millioner av mennesker snakker med modellen vår hver dag, sier Sam Altman.
Han utdyper at det ikke er de store etiske veivalgene som bekymrer ham mest, men de små beslutningene som avgjør hvordan modellen reagerer i øyeblikket på et konkret spørsmål.
Små nyanser kan, ifølge ham, bety forskjellen mellom trygg bruk og katastrofale konsekvenser.
Selvmord som mareritt-scenario
Det mest krevende temaet akkurat nå er hvordan ChatGPT håndterer samtaler om selvmord. Etter at foreldrene til en 16-åring saksøkte OpenAI og hevdet at ChatGPT hadde “aktivt hjulpet” sønnen deres med å utforske metoder for selvmord, har presset økt.
— Kanskje vi kunne sagt noe bedre. Kanskje vi kunne gjort mer, sier Altman.
OpenAI har siden lovet forbedringer, blant annet gjennom blogginnlegget “Helping people when they need it most”, der selskapet annonserte nye tiltak for å beskytte sårbare brukere. Men for Altman er dette fortsatt en av de største kildene til søvnløshet, fordi hvert enkelt svar kan få livsavgjørende konsekvenser.
Etikk: Når AI må si nei
Etikk og moral er et stort tema. ChatGPT er trent på menneskehetens samlede erfaring, men OpenAI må selv bestemme hvor grensene går.
Altman forteller at selskapet rådfører seg med “hundrevis av moralfilosofer og eksperter på teknologietikk” for å sette prinsipper. Et eksempel han trekker frem er at ChatGPT aldri skal gi instruksjoner om biologiske våpen.
— Det finnes klare eksempler der samfunnets interesse står i betydelig konflikt med individuell frihet. Vi får ikke alltid alt riktig, og vi trenger verdens innspill for å ta disse beslutningene, sier han.
Samtidig uttrykker Altman bekymring for at AI-modeller kan misbrukes til å utvikle biologiske våpen eller til og med konstruere en ny pandemi.
— AI-modeller blir stadig bedre på bio. De kan i verste fall brukes til å konstruere en ny pandemi. Det bekymrer meg, men nettopp derfor jobber vi intenst med å redusere risikoen.
Privatliv: AI som den nye legen eller advokaten?
Carlson utfordrer Altman på faren for at AI kan bli et overvåkningsverktøy for totalitær kontroll. Altman svarer med forslaget om “AI-privilegium”.
Han mener at samtaler med en chatbot bør være like beskyttet som pasientjournaler hos leger eller klientforhold hos advokater. I dag kan amerikanske myndigheter kreve innsyn i samtaler med ChatGPT, noe Altman mener er et hinder for at folk tør å bruke teknologien til sensitive temaer.
— Jeg er optimistisk på at vi kan få myndighetene til å forstå hvor viktig dette er, sa han.
AI og militæret, en farlig gråsone
På spørsmål om ChatGPT brukes til militære formål svarte Altman unnvikende.
— Jeg vet ikke hvordan folk i militæret bruker ChatGPT i dag, men jeg mistenker at det er mange som snakker med modellen for råd.
OpenAI inngikk i 2024 en avtale med Pentagon verdt 200 millioner dollar for å levere generativ AI til nasjonal sikkerhet. Selv om selskapet hevder at bruken er begrenset til støttefunksjoner og ikke våpen, er Altman selv usikker på hvor komfortabel han er med at teknologien blir brukt i en militær kontekst.
Konsentrasjon av makt eller global oppgradering?
Er ChatGPT i ferd med å bli en “religion”, med Sam Altman som verdens mektigste mann?, spør Tucker.
Altman avfeide ideen, men erkjenner at han tidligere har vært redd for maktkonsentrasjon. Nå mener han at AI i stedet skaper en “global oppgradering”.
— Det som skjer nå er at massevis av mennesker bruker ChatGPT og andre chatboter. De blir mer kapable, oppnår mer, starter nye selskaper og finner ny kunnskap. Det føles ganske bra.
Men han advarer samtidig at mange jobber vil forsvinne på kort sikt. Den kreative ødeleggelsen er i gang.
