AI-företagen tävlar inte längre om algoritmer – de kämpar om vårt förtroende

AI-revolutionen får ansikten och strategier

AI-utvecklingen inom juridik och hälsovård har nått en avgörande fas där teknikföretagen inte längre bara tävlar om bästa algoritmer – de tävlar om förtroende, kulturell förankring och verklig användbarhet.

Harvey, en av de ledande aktörerna inom juridisk AI, signalerar detta tydligt genom sin senaste rekrytering. Rachel Hepworth, tidigare marknadschef på Notion och Slack, ansluter som ny marknadschef enligt rapporter från Artificial Lawyer. Hennes kommentar träffar kärnan: "Förtroende, precision och skicklighet är avgörande" inom juridiken.

Detta sker samtidigt som konkurrensen hårdnar dramatiskt. Anthropic riktar sig nu direkt mot advokatbyråer istället för att bara sälja teknik till juridiska teknikföretag. Marknadsföringen blir allt mer sofistikerad – till och med kändisrekommendationer börjar dyka upp inom juridisk teknik.

Kulturell förankring som framgångsfaktor

Men den kanske mest fascinerande utvecklingen kommer från Nya Zeeland, där Hauora Māori Service visar hur AI kan införas framgångsrikt genom kulturell förankring. Deras BroPilot, baserad på Microsoft 365 Copilot, har anpassats efter tikanga Māori – ursprungsbefolkningens traditioner och värderingar, rapporterar Healthcare IT News.

Genom att involvera över 200 specialister inom maorisk kultur skapade teamet 16 mätbara standardrutiner. Resultatet? Personal som ursprungligen var tveksam till AI byggde successivt upp förtroende genom att testa verktyget på verkliga arbetsuppgifter i en säker miljö.

Detta visar på något avgörande: AI-införande handlar inte bara om teknik, utan om människor, kultur och tillit.

Forskningens verklighetscheck

Samtidigt ger ny forskning oss viktiga verklighetsbilder av AI:s nuvarande begränsningar. En banbrytande studie av japanska juridiska experter, publicerad i arXiv, visar att även om AI-system presterar väl på flervalsfrågor, har de betydande svårigheter med komplexa juridiska resonemang i verklighetstrogna scenarion.

Studien, som för första gången använder expertbedömning av AI:s juridiska resonemang på japanska advokatexamen, avslöjar att modellerna fortfarande introducerar påståenden som saknar stöd i prejudikat eller lagstiftning.

Etiska utmaningar inom hälsovård

Inom mental hälsa blir utmaningarna ännu mer komplexa. Forskare har undersökt hur AI-modeller som kombinerar bild och text kan förbättras för bedömning av välmående och depression. Resultaten, enligt en ny arXiv-studie, visar dramatiska skillnader mellan modeller – från 33,9% till 80,4% träffsäkerhet.

Men träffsäkerhet är bara halva sanningen. Forskarna upptäckte tydliga fördomar i modellerna – könsskillnader i bedömningar och rasmässig partiskhet. Paradoxalt nog ledde vissa försök att öka genomskinlighet till ökad partiskhet i andra områden.

Marknaden mognar med ansvar

Vad vi ser är en marknad som mognar bortom den initiala teknikhypen. Harvey:s fokus på stora internajuridiska team och advokatbyråer visar att framgången ligger i djup förståelse av professionella behov, inte bred konsumentappeal.

Samtidigt pekar Nya Zeelands exempel på att framgångsrik AI-införande kräver kulturell intelligens och lokalt ägandeskap. Det räcker inte med att implementera tekniken – den måste vävas in i organisationers värderingar och arbetssätt.