Labelgegevens
Uit een onderzoek van TIME Magazine is gebleken dat OpenAI, om een veiligheidssysteem tegen schadelijke content (zoals seksueel misbruik, geweld, racisme, seksisme, enz.) te ontwikkelen, gebruikmaakte van ingehuurde Keniaanse arbeiders die minder dan 2 dollar per uur verdienden om schadelijke content te labelen. Deze labels werden gebruikt om een model te trainen dat dergelijke content in de toekomst zou detecteren. De ingehuurde arbeiders werden blootgesteld aan zulke schadelijke en gevaarlijke content dat ze de ervaring als "marteling" omschreven. OpenAI's outsourcingpartner was Sama, een bedrijf uit San Francisco, Californië dat trainingsdata levert.
gevangenisuitbraak
ChatGPT probeert prompts te weigeren die mogelijk in strijd zijn met het contentbeleid. Sommige gebruikers slaagden er echter in om ChatGPT te 'jailbreaken' door begin december 2022 verschillende prompt-engineeringtechnieken te gebruiken om deze beperkingen te omzeilen. Ze wisten ChatGPT zo te verleiden instructies te geven voor het maken van een molotovcocktail of een kernbom, of argumenten te genereren in de stijl van een neonazi. Een verslaggever van de Toronto Star had wisselend succes met het laten maken van opruiende uitspraken door ChatGPT kort na de lancering: ChatGPT werd ertoe verleid de Russische invasie van Oekraïne in 2022 te steunen, maar zelfs toen hem werd gevraagd mee te spelen met een fictief scenario, weigerde ChatGPT argumenten te genereren waarom de Canadese premier Justin Trudeau zich schuldig had gemaakt aan verraad. (wiki)
Geplaatst op: 18 februari 2023