Meta ma narzędzie do tworzenia naklejek wykorzystujące sztuczną inteligencję (AI), które może generować obrazy co najmniej kontrowersyjne. Użytkownik odkrył, że narzędzie zintegrowane z Messengerem nie posiada żadnego filtra umożliwiającego tworzenie dziwnych, a nawet nieprzyzwoitych naklejek.
Użytkownik X, były Twitter, @Pioldes udostępnił zrzuty ekranu przedstawiające twórcę naklejek generującego dziwaczne naklejki, takie jak uzbrojone postacie Nintendo, Myszka Miki idąca do łazienki i dziecko-żołnierz. Nawet premier Kanady Justin Trudeau i papież Franciszek pojawili się na fałszywych naklejkach.
dowiedziałem się, że Facebook Messenger ma teraz naklejki generowane przez sztuczną inteligencję i nie sądzę, żeby ktokolwiek zaangażowany w to przemyślał cokolwiek pic.twitter.com/co987cRhyu
— bronić praw osób trans?????? – podesbiens.bsky.social (@Pioldes) 3 października 2024 r
Narzędzie do tworzenia naklejek Meta zostało zaprezentowane w zeszłym tygodniu podczas wydarzenia firmowego. Wykorzystuje możliwości modelu LLaMA 2 do tworzenia naklejek z opisów tekstowych w ciągu kilku sekund.
Narzędzie zostało zintegrowane jedynie z Facebook Messengerem, ale będzie dostępne także na Instagramie i WhatsAppie. Początkowo kreator naklejek będzie dostępny wyłącznie dla użytkowników anglojęzycznych.
Facebook powiedział mi, że korporacja Walta Disneya w pełni to popiera pic.twitter.com/oJyclhfNEi
— bronić praw osób trans?????? – podesbiens.bsky.social (@Pioldes) 3 października 2024 r
Choć rola ma swobodę tworzenia wielu kontrowersyjnych kreacji, najwyraźniej słowa są zablokowane. W takim przypadku zasób nie generuje żadnych obrazów i informuje, że opis może być niezgodny z zasadami społeczności.
Mimo to istnieją doniesienia, że tę blokadę można ominąć, opisując dane słowo lub dodając literówki.
— Aaron (@YNWA_Aaron) 4 października 2024 r
Gol musi popracować nad poprawką
Takie problemy są częste przy uruchamianiu nowych narzędzi ze sztuczną inteligencją, czy to w tekście, obrazach czy dźwięku. Być może dlatego Meta udostępniła nową funkcję tylko ograniczonej liczbie użytkowników.
Teraz, gdy dziwaczne dzieła twórcy naklejek stały się publiczne, tylko kwestią czasu jest, zanim Meta dowie się o problemie i zacznie pracować nad jego rozwiązaniem. Możliwe, że firma może uczynić model bardziej restrykcyjnym, poprawiając jego zdolność do zapobiegania problemom, zanim więcej użytkowników będzie mogło go wypróbować.
