Facebook tworzy boty do zwalczania brutalnych treści i nękania w Internecie

Facebook Stała się największą i najważniejszą siecią społecznościową na świecie, zapewniającą szereg funkcji rozrywkowych i komunikacyjnych, ale w ten sam sposób służyła również jako korzyść osobom zaangażowanym w złośliwe działania, czy to w celu sprzedaży nielegalne produkty, oszustwa, nękanie i między innymi, dlatego inżynierowie firmy tworzą alternatywną sieć społecznościową, w której boty będą identyfikować obraźliwe treści, nękanie, fałszywe wiadomości i nie tylko.

Inżynierowie Facebook opracowali program symulacyjny o nazwie WES (Symulacja internetowa), replika sieci społecznościowej, służąca do badania zachowań użytkowników, boty lub agenci będą mogli doświadczyć sposobów zatrzymania i zwalczania szkodliwych zachowań w sieci społecznościowej.

Naukowcem odpowiedzialnym za ten projekt jest inżynier z FacebookMark Harman, który współpracuje z działem sztucznej inteligencji firmy, wyjaśnia:

Podejście WES może automatycznie badać skomplikowane scenariusze w symulowanym środowisku. Chociaż projekt jest obecnie na etapie tylko dochodzenia, mamy nadzieję, że pewnego dnia pomoże nam udoskonalić nasze usługi i wykryć potencjalne problemy z niezawodnością lub integralnością, zanim wpłyną one na rzeczywiste osoby korzystające z platformy.

Te roboty zostały zaprojektowane tak, aby współdziałać ze sobą, wykonując te same czynności, co prawdziwa osoba.

Stosujemy redukcje prędkości do działań i obserwacji, które mogą wykonywać nasze boty. Szybko zbadaliśmy możliwe zmiany, które moglibyśmy wprowadzić w produktach, aby zahamować szkodliwe zachowanie bez szkody dla normalnego zachowania.

Projekt w fazie rozwoju

Facebook WES rozwija się, od kilku miesięcy pierwsze postępy zostały przedstawione w kwietniu ubiegłego roku, gdzie za pośrednictwem TekCrispy opisaliśmy, o co chodzi w tej równoległej sieci społecznościowej i jakie mogą być jej skutki.

Zapamietaj to Facebook Tworzysz sieć społecznościową, w której wszyscy wchodzący w interakcję są robotami (agentami), które zachowują się jak ludzie. Dzięki uczeniu maszynowemu modelowani użytkownicy mogą polubić, udostępniać i nawiązywać znajomości, a także nękać, znęcać się i oszukiwać z dala od ludzkich oczu

Ponadto można przeszkolić innych agentów do wykonywania złośliwych działań, takich jak m.in. naruszanie prywatności fałszywych użytkowników lub wyszukiwanie treści.

Wtedy, Facebook Ostrzegł, że platforma jest w pełni chroniona, aby zapobiec „omyłkowemu” wejściu któregokolwiek z tych botów do prawdziwej sieci społecznościowej i interakcji z ludźmi, co spowodowałoby chaos na platformie.

Na razie ten projekt jest w fazie badawczej, więc prawdziwa wersja Facebook nie dokonał żadnych zmian. Jednak naukowcy mają nadzieję, że zaczną działać, gdy upewnią się, że te boty zachowują się „odpowiednio” i niezawodnie podczas interakcji z ludźmi, co niewątpliwie może przybrać nieprzewidywalny przebieg.