'Apple maakte gelijkheid controversieel onderwerp voor AI na zege Trump'

In dit artikel:

Volgens een bericht van Politico heeft Apple in maart aan externe AI-trainers bij het bedrijf TransPerfect laten weten dat onderwerpen als diversiteit, gelijkheid en inclusie voortaan als 'controversieel' moeten worden behandeld voor het aankomende AI-model — een wijziging die volgde op de terugkeer van Donald Trump als president. In dezelfde richtlijn verdween de term 'systemisch racisme' en werden ook verkiezingen en vaccinaties aangemerkt als gevoelige thema's. Ongeveer tweehonderd beoordelaars in Barcelona zouden deze berichten en modelantwoorden controleren om de output bij release passend te maken.

De documenten laten verder zien dat Apple openstaat voor het beperken van inhoud op basis van wat de Chinese overheid acceptabel vindt, iets waar het bedrijf eerder al naar handelde (bijv. het verwijderen van vpn-apps) en dat ook terug zou keren in voorwaarden voor makers van Apple TV+-series. Die voorbeelden illustreren hoe commerciële belangen en lokale regelgeving invloed kunnen hebben op welke onderwerpen modellen mogen behandelen.

Apple ontkent de aanpassingen niet expliciet en benadrukt dat het zijn modellen volgens eigen principes traint en samenwerkt met externe partijen om antwoorden te evalueren met gestructureerde lijsten van gevoelige onderwerpen, die regelmatig worden bijgewerkt. Het bedrijf zegt dit te doen om de AI op verantwoorde wijze met uiteenlopende vragen om te laten gaan; het model wordt naar verwachting volgend jaar uitgebracht.