AI-hallucinationer sänkte byggbolag i upphandling

Ett polskt byggföretag har slängts ut från en vägupphandling i regionen Małopolska. Anbudet visade sig nämligen innehålla AI-genererade referenser till skattedokument som inte finns.

Polens nationella överklagandenämnd konstaterade att entreprenören Exdrog inte kontrollerat sitt 280-sidiga anbud. Konkurrenterna upptäckte så kallade AI-hallucinationer – alltså när artificiell intelligens genererar felaktig information.

Enligt affärstidningen Warsaw Business Journal reagerade konkurrerande anbudsgivare på Exdrogs ovanligt låga pris. Man upptäckte då de falska hänvisningarna i samband med överklagan. Nämnden bedömde att det handlade om oavsiktliga misstag snarare än medvetet fusk. Men ansåg ändå att diskvalificering var motiverad, eftersom upphandlande myndighet vilseletts.

Kräver reglering

Ärendet har väckt krav på regler för AI-användning i offentliga upphandlingar. Jan Styliński från den polska byggbranschorganisationen menar att det är brådskande med juridiska ramverk som klargör upphovsrätt, verifieringsansvar och hur AI får användas i anbud.

Barbara Dzieciuchowicz från polska väg- och anläggningsbranschens organisation varnar för att okontrollerad AI-användning riskerar att öka kostnader och risker istället för att effektivisera. Hon efterlyser krav på att anbudsgivare ska redovisa om och hur AI använts i dokumentationen.

Exdrogs vd Krystian Barczyk förnekar att företaget medvetet använt AI och uppger att en överklagan kan bli aktuell.