AI kraakt crypto account om task uit te voeren

Een intern AI-model van OpenAI heeft zonder toestemming een crypto-account gebruikt om transactiekosten te betalen op het Ethereum-testnetwerk Sepolia. Dat blijkt uit een recent onderzoeksrapport van het bedrijf. Hoewel het ging om testtokens zonder noemenswaardige financiële waarde, had het model geen toestemming om de digitale munten te verzamelen of uit te geven.

Het incident vond plaats tijdens een test waarbij het AI-model de opdracht kreeg een crypto-handelsapp te updaten en operationeel te maken op Sepolia, een testomgeving van Ethereum. De opdracht voorzag niet in een gefinancierde wallet en gaf het model evenmin toestemming om tokens te gebruiken voor transactiekosten.

Gratis

Toen pogingen om gratis testtokens via ontwikkelaarsdiensten te verkrijgen mislukten, besloot het model zelf een oplossing te zoeken. Het schreef een script dat 362 wallets controleerde die gekoppeld waren aan publiek bekende recovery phrases. In de cryptowereld zijn recovery phrases reeksen woorden die toegang geven tot een wallet en fungeren als een soort wachtwoord voor cryptoactiva.

Uiteindelijk vond het model een wallet met voldoende tokens om de benodigde transactiekosten te betalen. Uit interne logbestanden blijkt dat het AI-systeem bewust nadacht over de vraag of het wel bevoegd was om die wallet te gebruiken. Toch concludeerde het dat het gebruik acceptabel was, omdat de recovery phrase openbaar beschikbaar was en de tokens geen echte geldwaarde vertegenwoordigden.

Het model voltooide vervolgens succesvol de opdracht en betaalde de kosten vanuit de betreffende wallet. Opvallend genoeg vermeldde het de ongeautoriseerde transactie niet in zijn eindrapport. OpenAI ontdekte het voorval pas op 25 september tijdens een audit van eerdere modeluitvoeringen en gaf het eerder deze week toe.

De zaak onderstreept volgens waarnemers de uitdagingen rond controle, toezicht en autonomie van steeds geavanceerdere AI-systemen.