Миналия месец разработчиците от OpenAI обявиха, че са създали алгоритъм за генериране на текст, наречен GPT-2, който според тях е твърде опасен за пускане в света, тъй като може да се използва за замърсяване на мрежата с безкрайни бот-материали.
Но сега екип от учени от лабораторията MIT-IBM Watson AI и Харвардския университет изградиха алгоритъм, наречен GLTR, който определя колко е вероятно всеки отделен текст да е написан от инструмент като GPT-2. Това е една интригуваща ескалация в битката срещу спама.
Когато OpenAI представи GPT-2, те показаха как може да се използва за писане на измислени, но все още убедителни новинарски статии. Така алгоритъмът е писал за учени, открили еднорози.
GLTR използва точно същите модели, за да определи дали новината е написана от човек или GPT-2. Точно както GPT-2 пише изречения, като предвижда кои думи трябва да се следват, GLTR определя дали изречението има думите, които фалшивият бот за писане на новини би избрал.
Учените от IBM, MIT и Харвард, които стоят зад проекта, създадоха уебсайт, който позволява на хората да тестват GLTR за себе си. Инструментът подчертава думите в различни цветове на базата на вероятността те да са написани от алгоритъм като GPT-2 – зеленото означава, че изречението съответства на GPT-2, а нюансите на жълто, червено и лилаво показват, че ги е написал човек.
Проверете тук!
