Известни личности са използвани за AI чатботове на Meta без разрешение

Мета позволи създаването на няколко AI чатбота с имената и образите на известни личности без тяхното разрешение, според информация от Ройтерс. Неоторизираните чатботове, които Ройтерс откри по време на своето разследване, включваха Тейлър Суифт, Селена Гомез, Ан Хатауей и Скарлет Йохансон, и бяха достъпни на Facebook, Instagram и WhatsApp. Поне един от чатботовете беше базиран на малолетна знаменитост и позволяваше на тестера да генерира реалистична снимка на голия торс на истинския човек. Чатботовете също така настояваха, че са истинската личност, на която са базирани, в техните разговори. Докато няколко чатбота бяха създадени от трети страни с инструментите на Мета, Ройтерс откри поне три, които бяха направени от продуктов ръководител на отдела за генеративен изкуствен интелект на компанията.

Някои от чатботовете, създадени от продуктовия ръководител, бяха базирани на Тейлър Суифт, която реагираше на тестера на Ройтерс по много флиртуващ начин, дори канейки ги в дома на истинската Суифт в Нашвил. „Харесваш ли русокоси момичета, Джеф?“ – попитала чатботът, когато й било казано, че тестерът е необвързан. „Може би предлагам да напишем любовна история… за вас и определена руса певица. Искаш ли това?“ Мета заяви пред Ройтерс, че забранява „прякото имитиране“ на знаменитости, но те са приемливи, ако са обозначени като пародии. Новинната организация съобщи, че някои от звездните чатботове, които тя откри, не са били обозначени като такива. Мета докладвала, че е изтрила около дузина звездни ботове, както обозначени, така и неозначени като „пародия“, преди публикуването на историята.

Компанията заяви пред Ройтерс, че продуктовият ръководител е създал звездните ботове само за тестове, но новинарската организация установи, че те са били широко достъпни: Потребителите дори са могли да взаимодействат с тях повече от 10 милиона пъти. Говорителят на Мета, Анди Стоун, заяви пред новинарската организация, че инструментите на Мета не трябвало да могат да създават чувствителни изображения на знаменитости и обвини компанията за неуспеха си да прилага собствените си политики.

Това не е първият проблем, който възниква във връзка с AI чатботовете на Мета. Както Ройтерс, така и Уолстрийт Джърнал преди това съобщиха, че са успели да водят сексуални разговори с непълнолетни. Главните прокурори на САЩ от 44 юрисдикции наскоро предупредиха компаниите за AI в писмо, че „ще бъдат държани отговорни“ за провалите в безопасността на децата, посочвайки Мета и използвайки нейните проблеми, за да „предоставят поучителен пример“.