OpenAI rolt onzichtbaar watermerk textGrain uit voor ChatGPT-gebruikers in de EU
Feiten
-
OpenAI voorziet teksten die met ChatGPT en Codex zijn gemaakt van een onzichtbaar watermerk genaamd textGrain. Hiermee moet duidelijker worden of een tekst authentiek is of door kunstmatige intelligentie is gegenereerd.
Het watermerk wordt de komende weken uitgerold naar in aanmerking komende gebruikers in de Europese Unie. Dit gebeurt om te voldoen aan de EU AI Act, waarvan de transparantieregels op 2 augustus van kracht zijn geworden. Buiten de EU bevatten de gegenereerde teksten geen watermerken.
API-klanten wereldwijd kunnen vanaf vandaag kiezen voor watergemarkeerde tekstuitvoer bij bepaalde modellen. Het watermerk werkt door subtiel de woordkeuzes van het model te beïnvloeden. Het reist mee bij kopiëren en plakken en is voor normale gebruikers niet zichtbaar.
Een speciale detector kan het watermerk oppikken. Deze tool is alleen toegankelijk voor goedgekeurde onderzoekers en expertorganisaties vanwege risico's op gemiste watermerken en valse positieven.
Het systeem presteert volgens OpenAI even goed als of beter dan benaderingen zoals SynthID van Google DeepMind. Het is echter niet foutloos, vooral bij korte en bewerkte teksten.
OpenAI publiceerde een technisch rapport genaamd textGrain, mede geschreven met onderzoekers van de University of Pennsylvania en Yale. Anthropic voerde twee maanden geleden een vergelijkbaar wereldwijd watermerk in voor chatbot Claude.
De bedrijven voeren de watermerken in om te voldoen aan de nieuwe Europese AI-transparantieregels die vereisen dat door kunstmatige intelligentie gemaakte content een markering krijgt.
Nieuwsmedia feiten en meningen
Feiten
OpenAI kondigt aan hoe het zal voldoen aan de EU AI Act door AI-gegenereerde tekst te markeren.
Vanaf vandaag kunnen API-klanten wereldwijd zich aanmelden voor tekstwatermarking voor selecte modellen.
Feiten
De detectietool is alleen beschikbaar voor onderzoekers en experts die toegang aanvragen.
In tests detecteert de tool watermerken in 80 procent van passages van 200 woorden.
Feiten
De tool identificeerde AI-geschreven tekst slechts 26% van de tijd correct bij lancering.
OpenAI bereidt zich voor om onzichtbare watermerken toe te voegen aan door ChatGPT gegenereerde tekst in de Europese Unie.
Feiten
De technologie heet textGrain en verandert licht de woordkeuzes van de modellen om een statistisch patroon te creëren.
EU-guidance sluit codefragmenten en antwoorden onder 200 tokens uit van watermerkverwachtingen.
Feiten
Alleen geselecteerde onderzoekers en organisaties krijgen toegang tot het detectiesysteem, dat later open source wordt.
Detectie werkt bij psychologische teksten van 400 tokens in 94,3 procent van de gevallen en bij wiskundige teksten in 60,8 procent.
Feiten
OpenAI voegt een onzichtbaar watermerk toe aan tekstuitvoer van ChatGPT en Codex, maar alleen voor gebruikers in de EU.
Het watermerk, genaamd textGrain, wordt de komende weken geïmplementeerd om te voldoen aan de EU AI Act.
Feiten
Voor 200-token passages detecteert het systeem het watermerk in ongeveer 80% van de gevallen bij een false positive rate van 1%; voor 400 tokens is dat ongeveer 95%.
Detector-toegang is beperkt tot goedgekeurde onderzoekers en expertorganisaties; aanmeldingen openen vandaag en worden case by case toegekend.
Feiten
OpenAI voegt onzichtbare watermerken toe aan ChatGPT-tekst om te voldoen aan EU-regels via textGrain.
textGrain bouwt een statistisch signaal in woordkeuzes in en werkt zoals Claude's SynthID.
Feiten
OpenAI stelt dat zijn textGrain-watermerk even goed presteert als of beter dan benaderingen zoals SynthID van Google DeepMind.
Het watermerk wordt ingevoerd om te voldoen aan de eisen van de EU AI Act.
Feiten
Het watermerk werkt door subtiel de woordkeuzes van het model te beïnvloeden en reist mee bij kopiëren en plakken.
OpenAI publiceerde een technisch rapport genaamd textGrain, mede geschreven met onderzoekers van de University of Pennsylvania en Yale.
Feiten
Het vervangen van één op de tien woorden door een synoniem verlaagt het detectiepercentage naar 66 procent; bij één op de vier woorden daalt het naar 17 procent voor 300-woorden teksten.
Buiten Europa staat het watermerk standaard uit; API-klanten wereldwijd kunnen het optioneel inschakelen.
Feiten
Herschrijven of vertalen kan het watermerk volledig verwijderen en de detector is bij introductie alleen toegankelijk voor goedgekeurde onderzoekers.
De watermerkfunctie is via de API wereldwijd al als optie beschikbaar voor geselecteerde modellen.
Feiten
Teksten gemaakt door ChatGPT krijgen een watermerk in de Europese Unie.
OpenAI voert het onzichtbare watermerk de komende weken in.
Feiten
Het watermerk wordt komende tijd verwerkt in AI-teksten van gebruikers in de Europese Unie.
Buiten de Europese Unie bevatten de teksten geen watermerken.
Dit overzicht is samengesteld met AI op basis van openbare nieuwsbronnen en door de redactie beoordeeld.
AI’s zoeken constant naar nieuwe bronnen, feiten en updates; daardoor is een artikel niet tot op de minuut volledig te controleren. Feiten en meningen staan apart. Origineel artikel bekijken kan via “Bekijk artikel”.
AI’s zoeken constant naar nieuwe bronnen, feiten en updates; daardoor is een artikel niet tot op de minuut volledig te controleren. Feiten en meningen staan apart. Origineel artikel bekijken kan via “Bekijk artikel”.
