AI

Open AI släpper nytt verktyg – ska avslöja egna ai-skapade texter

Open AI:s hemsida. Foto: Peter Ottsjö

Chat GPT är på allas läppar. Men chattboten har också fått stark kritik, bland annat från lärare. Nu släpper Open AI, som utvecklat Chat GPT, en ny tjänst som kan sniffa upp ai-genererade texter.

Publicerad

Få ai-tjänster har fått lika mycket uppmärksamhet på kort tid som Chat GPT. Chattroboten lanserades i november i fjol, och kom snabbt upp i över en miljon användare världen över.

Oron: Ai-tjänsten missbrukas

Den nya ai-modellen kan svara på frågor, felsöka programmeringskod – och skapa stora mängder text på flera språk utifrån korta, beskrivande skrivande frågor eller instruktioner.

Googles nya musik-ai imponerar – men ingen får använda tjänsten

Men verktyget har inte enbart rosats sedan lansering. Kritiska röster har hörts, bland annat från skolvärlden, där lärare uttryckt en stark oro över att elever ska kunna använda Chat GPT för att fuska. Men det finns också lärare som är bekymrade över eventuella förbud mot Chat GPT.i klassrummet.

För att mota Olle i grind har Chat GPT-skaparna Open AI precis lanserat ett nytt ai-verktyg som ska kunna avslöja om texter har producerats med hjälp av artificiell intelligens.

Letar ai-ledtrådar i texter

Det nya verktyget Open AI Text Classifier har, precis som Chat GPT, tränats genom att analysera stora textmängder från webben. När Open AI Text Classifier gått igenom en text lämnas en uppskattning av hur stor sannolikheten är att materialet är ai-genererat.

”Iphone-ögonblick” för ai-eran – Nvidia stöttar svensk superdator

Bedömningen går från hela vägen från "väldigt osannolikt" (mindre än tio procents chans), till "oklart" (45–90 procents chans) och "troligen" (över 98 procents chans). Open AI Text Classifier är inte bara avsett för Chat GPT utan verktyget har tränats till att kunna identifiera text från alla ai-baserade språkmodeller som finns.

Inbyggda begränsningar i verktyget

Open AI:s nya tjänst är dock inte det första verktyget för att sniffa fram texter som skapats med hjälp av artificiell intelligens. Bolaget är dessutom tydligt med att dess nya verktyg har ett gäng inbyggda svagheter i dagsläget.

För att det ska fungera måste texten som ska analyseras exempelvis bestå av minst 1 000 tecken eller 150–200 ord. Verktyget är inte heller särskilt pricksäkert – och kunde enbart upptäcka 26 procent av alla ai-generade texter under tester hos Open Ai, skriver bolaget.

Nya AI:n får techvärlden att häpna: ”Som en atombomb”

Tanken är att nya verktyget framför allt ska fungera som ett komplement till andra, liknande tjänster. Open AI också dessutom en annan agenda med sitt färska hjälpmedel.

– Målet med Open AI Text Classifier är också att minska antalet falska påstående om att ai-skapad text egentligen har skrivits av människor, skriver en Open AI-talesperson i ett mejl till sajten Tech Crunch.