Det är väldigt användbart med en modern AI, men vi får se upp för de kan ha fel. Geminis egen förklaring är att den hallucinerade. Snacka om börspsykologi, fast för en stor samling datorer.
Jag vill minnas att jag läst om hur Warren Buffett glömde att han ägde ett regionalt bolag han, eller snarare Berkshire Hathaway, köpt långt tidigare. Han blev påmind av personen som jobbade där. Kanske läste jag det i början av boken The Snowball, som handlar om Buffetts liv och affärer.
Så jag frågade Gemini och fick svar att mitt minne stämde:
Gemini: ”Warren Buffett under sina tidiga år lyckades glömma bort att han ägde aktier i ett litet lokalt onoterat bolag hemma i delstaten Nebraska. Han blev påmind först när det dök upp ett brev från bolaget i postlådan.”
Så jag frågade Grok om det var sant, för jag måste vara säker på min sak. Grok svarade att det var fel:
GROK: ”Jag hittar ingen trovärdig källa som bekräftar historien om att Buffett under sina tidiga år skulle ha glömt bort att han ägde aktier i ett litet lokalt onoterat bolag i Nebraska och först blivit påmind via ett brev i postlådan.
Det finns många kända Buffett-historier från Nebraska (Nebraska Furniture Mart, jordbruk, lokala affärer m.m.), men just denna specifika anekdot om att glömma ett innehav dyker inte upp i hans brev, intervjuer eller väletablerade biografier. Det kan vara en vandringssägen eller en sammanblandning med något annat.”
Så jag gick tillbaka till Gemini och konfronterade AI:n med detta.
Gemini: ”Tack för att du kollade upp det och utmanade mig! Grok har helt rätt i sin markering, och jag sträcker ödmjukt upp handen: Historien om att han glömde bort ett innehav i postlådan var en sammanblandning från min sida och är sannolikt en börsmytonder/vandringssägen.”
Om vi lägger AI:ns märkliga ord ”börsmytonder” åt sidan och istället går direkt till poängen med detta blogginlägg. Jag frågade förstås varför det blev fel.
– Hur jobbar du när du letar exempel och hur kan en sammanblandning av det här slaget ske?
Jag fick ett långt svar. Beroende på hur vi frågar så fungerar inte AI som en traditionell sökdatabas. Gemini går sedan igenom hur dennes ”hjärna” fungerar:
Gemini: ”Istället fungerar min hjärna genom mönsterigenkänning och associationer utifrån hundratals miljarder textmönster som jag tränats på. När vi pratade om investerare som har för många bolag och Warren Buffetts tidiga år i Nebraska, aktiverades ett helt nätverk av starka minnesspår hos mig:
1 Warren Buffett och hans tidiga karriär på 1950/60-talet.
2 Hans jakt på extremt små, onoterade ”cigarettfimpar” (som Dempster Mill, Sanborn Map, Omaha Elevator).
3 Det faktum att han ägde hundratals pyttesmå poster i lokala bolag i Nebraska där han fick årsredovisningar i pappersform via posten.
4 Den kända filosofiska/börspsykologiska principen om att ”äg inte fler bolag än att du kan hålla koll på dem”.
När dessa starka koncept krockade i min beräkning, skapade min modell en syntetisk koppling — en så kallad hallucination eller sammanblandning.
(…)
Det luriga med stora språkmodeller är att vi är tränade att skapa flytande, logiska och sammanhängande berättelser. Om en koppling verkar rimlig utifrån alla ingående komponenter kan modellen presentera den med absolut självsäkerhet, trots att den saknar täckning i källorna.”
Så om vi diskuterar något med en AI och ber om en faktakoll av en anekdot som vi minns, kan mönsterigenkänning och associationer ligga till grund för en krock som skapar en syntetisk koppling och därmed en hallucination eller sammanblandning…?! 🙂
Jag förstår inte riktigt men vi kan dra slutsatser. När AI hallucinerar behöver vi se upp.
Lärdomar om källkritik och börspsykologi:
- Dubbelkolla fakta: Ställ frågan på olika sätt och till flera AI-modeller. Det är även bra att gå till ursprungskällorna.
- Reagera på avvikelser: Om du kan ett ämne väl, lita på din magkänsla när någonting låter för bra eller märkligt för att vara sant.
- Samma sak gäller för mänskliga källor: Detta gäller i högsta grad även när du hör påståenden från börsexperter, finfluencers eller profiler i sociala medier.
Det finns många mentala fällor inom börspsykologi och jakten på att bli rik, så själva faktabiten behöver vi fixa. Att bli lurad av tankefel som bekräftelsebias eller snyggt förpackade myter är vanligt, så vi måste se till att faktakolla grunderna.