AI · Beroenderisk

AI får vara motorn — inte hela nervsystemet

Centralbankernas centralbank, BIS, varnar för att AI-boomen bär samma riskmönster som byggdes upp inför finanskrisen 2008: enorma investeringar, cirkulär finansiering och tillgångar som är pantsatta flera gånger. Det är en makrodiskussion. Men samma sorts skörhet går att bygga in i ett enda företag — och det jag fastnar vid är priset: den AI du väver in i allt idag är billig för att någon annan betalar. Det kommer inte att fortsätta.

Källa: videon som den här reflektionen utgår från (YouTube).

Två sätt att koppla in AI. Till vänster går prissättning, kundsupport, rekrytering och strategi alla genom en enda AI-nod knuten till en leverantör som sätter priset. Till höger en pipeline: din data passerar en människa som anonymiserar innan AI, och en människa som verifierar efter AI, med en streckad reservväg som kör steget utan AI om priset rusar. — Samma beslut, två inkopplingar: allt genom en enda nod du inte äger — eller en pipeline med människa före och efter AI, och ett spår som fungerar utan den.

Problemet: en osynlig enda nod

AI börjar alltid som ett smart tillägg på ett ställe: en chattbot i supporten, ett utkast till annonstext, en prislista som justeras automatiskt. Sedan sprider det sig. Snart ligger AI i prissättningen, i första svaret till kunden, i gallringen av jobbansökningar och i underlaget inför strategimötet.

Ingen bestämde att allt skulle gå genom samma nod — det blev bara bekvämt, ett beslut i taget. Och just därför syns beroendet inte förrän det brister.

Läckan: priset är inte ditt — och det kommer att stiga

Först och farligast: du sätter inte priset. Dagens AI är billig för att den är subventionerad — investerare häller in kapital för att ta marknad, inte för att gå plus. Videon räknar hem att sektorn kan hamna omkring två biljoner dollar back om tekniken bara levererar hälften av det som lovats, och att till och med bästa scenariot kräver nästan full utdelning på investeringarna. AI-bolagens investeringar har redan blivit större än deras fria kassaflöden. De pengarna ska tillbaka någonstans, och vägen dit heter högre priser.

Har du då vävt in AI i prissättning, support, rekrytering och strategi träffar en prishöjning inte ett verktyg — den träffar varje beslut samtidigt. En kostnad du en gång la på ett par tusen i månaden kan tredubblas, och du kan inte tacka nej, för allt hänger på den. Du har gett bort din förhandlingsposition. Det är samma cirkulära skörhet som i makroledet, fast innanför dina egna väggar: när noden är enda vägen in, sätter någon annan både funktionen och taxan.

Sedan det tysta felet. AI:ns svar går rakt in i nästa beslut utan att någon granskar övergången. En orimlig prisjustering eller en kvalificerad kandidat som sorteras bort propagerar vidare, och du ser bara att något blev fel, inte var — precis som en funnel utan mätpunkter berättar att det blev dyrt men inte varför.

Lösningen: en människa i vardera änden — och en väg utan AI

Tre grepp, alla billiga jämfört med att sitta fast den dag priset dubblas.

Sätt en människa före AI. Någon som städar och avidentifierar datan innan den går in. Du vill inte mata känsliga uppgifter till en tjänst du inte äger — och du vill kunna byta motor utan att din data följer med ut.
Sätt en människa efter AI. Någon som verifierar svaret innan det blir ett beslut. Det är mätpunkten där ett tyst fel blir synligt, innan det hunnit propagera.
Håll ett spår som fungerar utan AI. Om priset rusar — kan prissättningen och supporten rulla vidare manuellt, om än långsammare? Kan du stänga av AI:n eller byta leverantör utan att bygga om allt? Det förutsätter att du äger din data och dina loggar. Hyr resultatet, inte ryggraden.

Då blir AI en motor bland flera i stället för hela nervsystemet. Du får integrera det djupt — men på villkoret att en människa vaktar båda ändarna och att du kan köra vidare utan noden den dag det blir för dyrt att tanka den.

Principen: AI får vara motorn, inte hela nervsystemet. Låt en människa städa datan före och verifiera svaret efter — och håll ett spår som fungerar utan AI. För priset är inte ditt: den dag det som är subventionerat ska betala igen sig, vill du kunna säga nej.

Videon är öppet pessimistisk och delvis spekulativ — den väver ihop BIS riskanalys med en rad egna antaganden och landar mörkare än vad BIS faktiskt säger. Men dess egen slutsats är inte att fly marknaden, utan att bygga något som håller oavsett: egna färdigheter, eget nätverk, egen data. Jag tar med mig samma sak in i företaget. Jag är inte orolig för att använda AI överallt — jag är orolig för att använda det utan en människa i vardera änden, utan väg tillbaka och utan att kunna säga nej den dag priset rusar. Motorn får vara stark. Jag vill bara kunna köra hem även den dag den blir för dyr att tanka.