.Geek - Deloitte betaalt geld terug vanwege rapport dat door AI lijkt te zijn geschreven

In dit artikel:

Deloitte moet een deel van een opdracht terugbetalen aan de Australische overheid nadat een door het adviesbureau opgeleverd rapport fouten en verzonnen bronnen bevatte. Het ministerie van Werkgelegenheid had Deloitte dit jaar opdracht gegeven onderzoek te doen naar geautomatiseerde besluitvorming bij boetes in het werkloosheidssysteem; het rapport werd in juli ingeleverd. Australische media ontdekten daarna meerdere voetnoten naar niet-bestaande onderzoeken — soms gekoppeld aan echte hoogleraren — en citaten die door een federale rechter nooit zijn uitgesproken.

Het bureau en het ministerie hebben inmiddels geruisloos een herziene versie online gezet waarin veertien referenties zijn geschrapt. Verder is in het document toegevoegd dat Deloitte bij delen van het onderzoek een op Azure OpenAI GPT-4o gebaseerde toolchain heeft gebruikt. Het bedrijf betaalt een deel van de oorspronkelijke 440.000 Australische dollar terug (ongeveer 248.000 euro). De affaire benadrukt de risico’s van ongetoetst gebruik van generatieve AI bij beleidsadviezen en de noodzaak van strikte kwaliteitscontrole bij consultants.