Ditt jobb finns inte om tre år. Dina uppgifter gör det.

jag är med i Ethical AI Governance Group som är ett think tank epicenter av Responsible AI. Grundaren är Bose. Han är också en av våra i VC-firman som heter Benhamou Global Ventures. Så långt bak i tiden, 2022, så gjorde vi vår första sidoinvestering där. Och sen som du vet så har vi ju merchat tillsammans med, Anki AI har merchat och blivit Ascension med en kanadensisk firma Så nu är vi M2M Governance.

Men

Det är inte bara en teknikfråga där du liksom köper en licens implementerar och har ett supercleant ROI och det är klart det finns de casen där du kanske har en chattbott i customer success men om vi tänker på knowledge workers generellt så är det ju mer komplext än så. Så att du utvärderar den här ROI-frågan lite för tidigt också.

Ja men en parentes är ju att EUs regelverk då kräver en sorts AI literacy att man utbildar sin organisation.

För vilka bolag gäller det här? Är det bara för storbolag eller är det för alla bolag eller?

började ju tidigt att titta på vem ansvarar för AI governance inte själva budgeten för oss så är det ju så att styrelsen och vd investerar kraftigt i en generisk AI-lösning som är för trubbig för att man ska kunna anpassa det till de individuella behoven och organisationen

Vad är det, man köper co-pilot-licenser i praktiken eller vad är det för investering?

Precis, och de är ju också dyra. Det kan vara off-the-shelf, CV-screenings och så vidare

som

inte kan skräddarsy, man kan inte styra och man kan inte adaptera. Alltså det lyckas i vissa fall, men generellt för trubbigt eller så investerar man i jättesvåra skräddarsydda lösningar som man inte kan skala i organisationen.

handlar ju så mycket om budget för vad på något vis för så fort du skjuter budgeten till en risk och compliance avdelning exempelvis då har det ju ett så här.

det viktigaste är att det finns ett problem att lösa, en uppgift och det du menar

med friction förut eller hur?

precis, och om du inte synliggör det, då kan du inte räkna hem vinsten Det och om du har, det kan ju vara så att du vill göra Saker Saker bättre, du vill göra saker snabbare eller som du refererar till att du vill göra saker som vi inte trodde vi kunde förut.

Jag tror att i den här rapporten så pratades det om AI-orchestrerare som är systemtänkare som förstår hur nuvarande process ser ut, hur en framtida process skulle kunna designas och som kan vara det blir ju en ny typ av ledarskap egentligen där du är ledare av en del människor där vi försöker maximera för det som är mänskligt omdöme, mänsklig kreativitet mänskliga relationer men där vi maximerar också för hur kan vi få ut Värde ur modellerna i form av att automatisera det som är någon form av kognitiv motsvarighet av löpande bandarbete vi kanske är jättebra för mänskligheten att vi inte sitter och manuellt kopierar saker mellan ett Excel-blad till ett annat utan vi vill uppgradera vad vi faktiskt gör som människor på jobbet men vad finns det fler för sådana här framtida nya roller som du skulle säga, det här är nu i början av 2026 ganska viktigt nya roller att fundera på att skaffa sig i vårt bolag

Det är ju mer talanger än utbildning, det är väl jättebra att ha någon typ av ingenjörskännedom kring arkitektur

och

sen handlar det ju väldigt mycket om att ha nyfikenhet och vana kring att altera nya modeller att styra och leda och det har ju också visat sig att till exempel är advokat och det är ju väldigt tydligt att den här typen av jobb kommer, många av de uppgifterna som görs kommer automatiseras.

Ja, exakt.

sociala arkitekter De kommer ju använda så mycket AI-assistenter. Men när det gäller så är deras sociala orientering helt avgörande.

Vet säkert vem Rory Sutherland är. Han är en marknadsföringsguro från Storbritannien. Han har ju ett sånt där jättebra exempel där man kollar på roller lite fel. Han kollade på dörröppnare på hotell. Och så hade han exemplet att det är ganska lätt om du bara kollar på det igen då. Så utifrån linsen hur kan vi göra vårt gamla jobb snabbare och billigare att installera automatiska dörrar på ett hotell?

Erik Brynjolfsson-avsnittet så hade han ju en fyrfältare där han beskrev... Om du struntar rollen utan mer går till task eller enskild uppgift så så bör du kategorisera de här uppgifterna utifrån hur mycket komplexitet kräver den här uppgiften Är det en väldigt avancerad uppgift Och hur mycket mänskligt omdöme kräver den här uppgiften?

Och så får du då fyra fält. Och längst ner till vänster, låg komplexitet och låg grad av human judgment. Där har du ju den här automatiseringszonen Jättebra, det är toppen men däremot så fort du kommer upp i komplexitet eller så fort du kommer upp i human judgment då är inte automatisering vägen att gå utan då är det antingen att du hjälper till med bättre analys eller strategisk support eller vad det kan vara för någonting och där tror jag är generellt i bolag att man borde sätta sig ner och där kan man ju sätta sig ner själv i sin egen roll och liksom dela upp vad är det jag gör på daglig basis och hur mycket av hur komplext är det här i verkligheten och hur mycket kräver det faktiskt mitt mänskliga omdöme och verkligen investera i de delar som kräver mitt mänskliga omdöme där blir jag viktigare än någonsin som konsekvens av tekniken

Men märker du, det du säger nu är ju bottom up.

framförallt det jag skulle säga att jag märker är att ingenting av det där är en toolingfråga och tillbaka till den här budgetfrågan vi hade, den här diskussionen löser du inte genom att kolla ska vi köpa den här transcriben eller den här transcriben för det är inte alls det det handlar om.

rätt. Jag ska hoppa över till en annan sak som jag tycker är intressant här för att jag på något sätt, vi har ju länge pratat det här regelverket. Det är egentligen inte regelverket som kommer få företag att skapa de här långsiktiga affärsmodellerna utan det är när man förstår att varje AI-lösning behöver riskvärderas som är under högriskkategorierna som bank, finans infrastruktur, utbildning, rekrytering, polisiära, restriktorer och så vidare.

Kan jag få ställa en skarp fråga här. För någonting som vi märker mycket, och när jag säger vi så menar jag Grail, det AI-bolag som jag driver. Man vill som enterprise ta risk- och säkerhetsfrågorna på allvar. Det är liksom så mycket träning sitter i allas ryggmärg. Samtidigt så har man en väldig känsla av att så fort vi lyfter på den boxen så... Vi hamnar alldeles för ofta i att vi kan inte göra någonting på på grund av en känsla av risk risk någonstans det är ju en jätteslitning och kanske framförallt också om man kastar in perspektivet Europa, USA och liksom Europa mot övriga delar av världen så att vi har ju eftersom vi är på en global arena så vi har ju konkurrenter i USA som inte alls gör samma riskbedömningar exempelvis.

Tänk dig hur många AI-lösningar som inte är högrisk. Där man inte bedömer att den slutanvändaren har en sannolikhet och grad av skada Om Om du gör den här riskbedömningen och om du har en metod eller mjukvara för det, då kan du ju skala mycket av den AI du vill skala.

Säg då att man inte sitter på ett hälsoföretag eller hälsovårdgivare. Alltså du är inte i någon av de här högklassriskerna utan du driver ett bolag så som det ser ut mest. Du gör någon produkt eller tjänst.

skulle du säga, och så har vi bokat in på måndag på ledningsgruppen en risksittning för just att få koll på, det här är risk och det här är inte risk, där vill vi accelerera för vi kan bedöma det. Men hur lägger vi upp den diskussionen på bästa sätt? För jag tror att där är nog väldigt, väldigt många just nu.

Egentligen är det bara brist på kunskap på många sätt.

Precis. Så du behöver ju oavsett för att uppfylla lagen så behöver du oavsett göra en riskbedömning. Du kan göra den internt med ett ramverk om du är högrisk eller inte. Eller så kan du använda vår produkt som vi har utvecklat sedan länge. Men det handlar ju också om att titta på, även fast retail är låg risk så kan ju er HR-avdelning köpa in en CV-screening som bedömer Utifrån partiskhet i data så att det blir fel utval och diskriminering och exkludering.

Jag tänkte fråga dig, så vem är ansvarig för att vi har ett CV-screening-verktyg som är rå-rasistiskt av någon anledning? Vi har ju köpt ett dåligt verktyg, men vem är ansvarig för det?

Så den som är provider som har utvecklats verktyget har mer ansvar än den som deployer. Och det är tydligt. Men den som deployer har också ansvar. Sen är det gråzonen när en deployer blir en provider. Det finns en gråzon här inom AI Act men det handlar om att du inte jag menar, trenden går mot öppna Språkmodeller,

Kan du förklara varför trenden går åt det hållet?

att det är enklare att skräddarsy och forma till den lösningen du har. Som vi pratade om att till exempel Copilot eller du kan inte styra, du har ingen insyn i data och kan inte skräddarsy Och det är väldigt dyrt med de här stora stängda språkmodeller.

Så bara för att försöka översätta det här för det här tycker jag är en väldigt intressant spaning. Så istället för att man som enterprise köper Microsoft Copilot, OpenAI, Claude, Gemini, licenser brett till sin användare så säger man att de här öppna modellerna som du kan hosta själv eller hosta någon annanstans, vi köper in dem och anpassar dem vilket innebär att vi behöver den kompetensen in-house eller köpa den kompetensen för att anpassa specifikt till vårt Arbetsflöde eller om man köper det via någon typ av SaaS-produkt för CV-screening eller som i sin tur inte då bygger på OpenAI utan bygger på någon mer mindre modell som är finetunerad till det här use-caset.

Trenden går mot öppna och mindre modeller, det vill säga domänsspecifika modeller och det minskar ingenjöringen av träffbarhet också, den här typen av auditing som du behöver i det här fallet en legal AI-assistent till exempel.

när du säger att EU ska fokusera på att bygga mindre modeller, innebär det... Att vi faktiskt ska bygga mindre modeller från grunden Som bara är gjorda just för svensk lagstiftning AI-modell Eller är det att utifrån mindre men fortfarande öppna modeller Om man tar Lama eller något sånt där.

man bygger mindre modeller Av stora modeller och det är ju problematiskt i sig men Fredrik Heinz till exempel på Linköping som du har haft med, han jobbar mycket med att skapa mindre språkmodeller så det handlar om att man har en specifik teknik för att jobba med stora språkmodeller som man omvandlar till små och specifika.

är super relevant. Jag tänker på, jag pratade med Anton Osika på Loveable under hösten också och pitch runt vibecoding är ju att historiskt sett så har en chokepoint varit ingenjörstalanger.

Jätte. Exakt, väldigt mycket kontakt med kunden när kunden vill det och otroligt mycket kreativitet och innovation och nytänkande och jag tror att det är ju liksom en renaissance av den kvinnliga energin alltså höger hjärnhalva, vad som kan hända om vi släpper på och inte tror att den här intelligensen ska lösa allting.

där är superkul för man kan introducera också tvärdisciplinära insikter med AI på ett väldigt tycker jag häftigt sätt eftersom du kan, det är ju mer bara en fråga om, vad är du intelligent nog att fråga AI om jag skrev en artikel här ganska nyligen som hette Tantric Lessons for CEOs in the Age of AI som handlade väldigt mycket om precis det du beskriver, att det är renässans för kvinnlig energi, det kom från en podcast med Fanny Norlin som precis de här frågorna och hur framförallt innovation är så otroligt svårt i en ROI-överjagande verklighet och eftersom alla organisationer just nu är på väg igenom stora, stora transformationer att göra det med CFOs glasögon uteslutande är ett dåligt recept.

då tänker jag, jag brukar ofta tänka vad en styrelse hur ser en om jag ska komponera en styrelse, vi säger Loveable är det för olika typer av personer du ska ha där? Och jag tycker att den här erfarenheten är jätteviktig att du har en dold intelligens i bara erfarenhet. Du har varit med finanskriser du har varit med turbulenta tider, du har varit med geopolitiska kriser.

kommentarer på det. Det ena är, jag tror att det var underförstått baserat på så som du pratade tidigare men i den här rollkompositionen i styrelsen så är det ju också hur säkerställer vi att när vi pratar om risk eller när vi pratar om de här överoptimistiska lösningarna att vi har just det här affärs och friktionsperspektivet front and center.

perspektivet är, jag tror att man underskattar potensen om man tänker igenom utifrån vårt bolag och så tänker man igenom om vi inte bara positionerar AI här som ett cost saving verktyg alltså rena automation, den typen av case, utan verkligen tänker oss in i berättelsen om vi vill använda AI för att förstärka vad du kan göra.

Man kan ju också se de nordiska länderna eller EUs länder med välfärdsstat och omställning under trygghet. Nu vet jag inte hur många som köper in på det längre. Men det handlar ju om att du ska ju i de bästa lägena så har ju vi skapat en välfärdmodell där du kan omskolas och vara trygg.

ju alla de här omställningsprogrammen på att du har i princip tappat jobbet och hamnat utanför arbetsmarknaden och då stoppar vi in resurser. Jag vet att jag pratar med Ann Öberg som är vd för Almega och de försöker få traction för omställningsprogram som är lite mer proaktiva.

är stökigt. Jag tror inte på medborgarlön. Jag tror att on the job training är det bästa. Att företag får stöd.

Att

behålla de här anställda för att uppskola sig. Sen kanske det leder till en annan anställning. Men absolut att... Regeringen har en och Almega har en roll att spela för att vi ska liksom våga.

är det som händer på något vis när man tycker att man saknar information. Jag kommer ihåg när GDPR implementerades första perioden där var det ju precis samma sak. Det var otroligt svårt att förstå vad är det egentligen som gäller och då defaultar man i väldigt hög utsträckning till att vi kan inte göra någonting. har du pratat mycket om dels de hårda regelverken kopplat till när är det riskbedömt utifrån EU-perspektiv. Du har lyft fram tycker jag väldigt intressant ett antal Moraliska bias-perspektiv och sådana bitar som jag inte tror så många tänker på. Jag hamnar ju väldigt mycket i diskussioner som kanske snarare handlar om säkerhetsfrågor.

intressant för vi har ju en digital omnibus som vill pausa lite reglering av högrisk AI och den är inte beslutad än men om den beslutsas så är det ju ett år till, alltså det senare läggs ett år till.

Ja

finns det för resurser för det där så att man slipper börja från scratch som bolag?

här

Väldigt intuitiv användarresa som gör att du får rekommendationer och inser det längs hela resan. Och sen använder vi vi använder test för att titta på rättvisa integritet robustness och security, säkerhet. Så vi använder en AI-agent för att då med syntetiska personas med syntetiskt minne så använder vi den här modellen för att manipulera så att vi ser var sårbarheterna finns.

här rapporten då som ni ger med och släpper, vad hoppas ni ska hända med den?

är en del av den utbildningssatsning som jag ska ta ut här i Europa men också som genomförs i USA när det gäller på styrelse- och vd-nivå. Hur man ska anamma det här frameworket. Det ska bli jättekul.

Super spännande. Jag kommer länka den här rapporten i show notesen och du kommer ha hunnit vara i Paris innan det här avsnittet sänds. Så tack så jättemycket. Det här var hyper relevant skulle jag säga.

Tack.