Tre av fyra amerikaner misstror AI-bolagens ledare – ny undersökning visar krav på oberoende tillsyn
Tre av fyra amerikaner misstror AI-bolagens ledare och kräver oberoende tillsyn.
Förtroendekrisen som branschen inte kan ignorera
Det finns ett gap som växer sig allt bredare – mellan den entusiasm som råder i AI-branschens korridorer och den oro som breder ut sig bland vanliga människor. Enligt en ny opinionsundersökning från Quinnipiac University, rapporterad av The Decoder, vill 47 procent av amerikanerna att AI-utvecklingen saktas ned, medan 30 procent anser att den bör stoppas helt tills säkerheten kan garanteras. Bara fem procent vill se ett högre tempo.
Det är siffror som bör ge hela branschen – inklusive oss som rapporterar om den – anledning att stanna upp och tänka till.
Men det som verkligen sticker ut i undersökningen är inte tempofrågan i sig. Det är förtroendet – eller snarare bristen på det. Hela 74 procent uppger att de har litet eller inget förtroende alls för de personer som leder de stora AI-bolagen. Det är ett anmärkningsvärt underkännande av en bransch som i mångt och mycket styrs av ett fåtal mycket inflytelserika individer.
Chetan Jaiswal, chef för undersökningen vid Quinnipiac University, sammanfattar det träffande:
"Sammantaget tyder dessa resultat på att allmänheten vill ha skyddsåtgärder som inte enbart bygger på att man tar AI-bolagens ledare på deras ord."
Det är inte ett uttalande mot AI. Det är ett uttalande för ansvarsskyldighet.
Muse: När assistenten lär känna dina närmaste
In i detta klimat av utbredd skepsis kliver Metas nya AI-assistent Muse – och tidpunkten kunde knappast vara mer laddad. Enligt Computer Sweden har säkerhetsforskare granskat Muses interna instruktioner, som Meta själva gjort tillgängliga för att öka insynen i tjänsten. Det de fann är fascinerande och tankeväckande på samma gång.
Muse bygger nämligen inte bara en profil av dig som användare. Assistenten skapar egna profilsidor för de viktigaste personerna i ditt liv – familjemedlemmar, partners, vänner, kollegor. Profilerna fylls successivt på med uppgifter om bostadsort, yrke, gemensamma intressen och viktiga datum. Tidigare resor, konflikter och återkommande samtalsämnen kan sparas och kopplas samman. Tjänsten kan dessutom integreras med externa källor som meddelandeappar, bankkonton och hälsodata.
Meta framhåller att syftet är att göra assistenten mer anpassad och användbar, och att Muse ska begära godkännande innan känsliga åtgärder vidtas. Det finns en aktivitetslogg och möjlighet att radera lagrad information. Det är rätt steg i rätt riktning.
Men frågan som hänger kvar i luften är viktig: dina närstående har aldrig samtyckt till att bli kartlagda. Den vän du nämner i ett samtal, den kollega du söker råd om, den familjemedlem vars hälsotillstånd du delar med assistenten – de har inte klickat på något samtyckesformulär.
Oron är inte irrationalitet – det är ett rimligt svar
Det är lätt att från ett branschperspektiv avfärda opinionsundersökningens siffror som rädsla för det okända, eller som en naturlig reaktion på medias ofta negativa rapportering. Men jag tror det vore ett misstag.
När 73 procent av amerikanerna anser att AI på sikt kan utgöra ett hot mot mänsklighetens överlevnad, och 53 procent tror att AI kommer göra mer skada än nytta i vardagslivet – då handlar det inte om okunskap. Det handlar om att allmänheten noterar en takt och en riktning som upplevs som okontrollerad.
Samtidigt är det värt att lyfta fram det som faktiskt ger hopp i undersökningen: 86 procent stöder oberoende säkerhetsstandarder, även om de bromsade utvecklingstakten. Och 91 procent anser att tydliga begränsningar för AI-system är viktiga. Det är inte en befolkning som vill ha ett moratorium mot framtiden. Det är en befolkning som vill ha en framtid med tydliga spelregler.
Den skillnaden är avgörande. Och den öppnar dörren för en produktiv dialog – om branschen är villig att lyssna.
Möjligheten i oron
Jag är genuint övertygad om att AI kommer att skapa enormt värde för samhället. Men det värdet realiseras inte automatiskt, och det realiseras definitivt inte om förtroendet fortsätter att erodera. Muse-avslöjandet och opinionsundersökningen från Quinnipiac hör ihop – inte för att de handlar om samma teknik, utan för att de pekar på samma grundläggande fråga: vem sätter gränserna, och vem har faktiskt gett sitt medgivande?
De bolag som tar den frågan på allvar – och bygger in transparens, ansvarsskyldighet och verklig valfrihet som grundfundament snarare än efterhandskonstruktioner – kommer att vara de som vinner allmänhetens förtroende på sikt. Och i det förtroende ligger den egentliga affärsmöjligheten.
Vår analys
Det som gör den här veckan ovanligt intressant är att de två berättelserna – en bred opinionsundersökning och ett konkret produktavslöjande – speglar varandra på ett nästan pedagogiskt sätt. Quinnipiac-undersökningen visar att förtroendet saknas. Muse visar varför förtroendet saknas.
Utvecklingen pekar mot ett vägskäl. Antingen väljer branschen att fortsätta i nuvarande tempo och hoppas att allmänheten så småningom anpassar sig – en strategi med allt kortare hållbarhetstid – eller så sker en verklig omsvängning mot det som 86 procent av amerikanerna faktiskt efterfrågar: oberoende säkerhetsstandarder och tydliga begränsningar.
Min bedömning är att det senare inte bara är etiskt rätt, utan också affärsmässigt klokt. Reglering som branschen aktivt medverkar till att forma är alltid att föredra framför reglering som tvingas fram i en förtroendekris. Fönstret för det proaktiva valet håller på att stängas.