Napriek veľkému úsiliu Facebooku sa zlým aktérom akosi vždy darí preniknúť cez jeho záruky a politiky. Sociálna sieť teraz experimentuje s novým spôsobom, ako posilniť svoje antispamové zábrany a zabrániť zlému správaniu, ktoré by mohlo potenciálne porušiť jej záruky: Armádu robotov.
Facebook tvrdí, že vyvíja nový systém robotov, ktorý dokáže simulovať zlé správanie a stresovo testovať svoju platformu, aby odhalil prípadné nedostatky a medzery. Títo automatizovaní roboti sú vyškolení a naučení, ako sa správať ako skutočná osoba s využitím modelu správania, ktorý spoločnosť Facebook získala od svojich viac ako dvoch miliárd používateľov.
Aby sa zabezpečilo, že tento experiment nebude zasahovať do skutočných používateľov, vytvoril Facebook aj akúsi paralelnú verziu svojej sociálnej siete. Tu sú roboti pustení a môžu sa brániť - môžu si navzájom posielať správy, komentovať fiktívne príspevky, posielať žiadosti o priateľstvá, navštevovať stránky atď. Dôležitejšie je, že tieto A.I. roboti sú naprogramovaní tak, aby simulovali extrémne scenáre, ako je predaj drog a zbraní, aby otestovali, ako sa im algoritmy Facebooku pokúsia zabrániť.
Facebook tvrdí, že tento nový systém môže hostiť „tisíce alebo dokonca milióny robotov“. Pretože beží na rovnakom kóde, aký používatelia v skutočnosti majú, dodáva, že „akcie robotov sú verné účinkom, ktorých by boli svedkami skutoční ľudia používajúci platformu.“
„Zatiaľ čo je projekt v súčasnosti iba v štádiu výskumu, dúfame, že jedného dňa nám pomôže zlepšiť naše služby a odhaliť potenciálne problémy so spoľahlivosťou alebo integritou skôr, ako ovplyvnia skutočných ľudí využívajúcich platformu.“ napísal vedúci projektu Mark Harman do príspevku na blogu.
Momentálne nie je jasné, aké efektívne bude nové simulačné prostredie Facebooku. Ako spomenul Harman, je to ešte stále v dosť raných fázach a spoločnosť zatiaľ svoje výsledky nijako nepoužila na verejné aktualizácie. Sociálna sieť za posledných pár rokov aktívne investovala a podporovala výskum založený na umelej inteligencii s cieľom vyvinúť nové nástroje na boj proti obťažovaniu a spamu. Na svojej výročnej vývojárskej konferencii pred dvoma rokmi Mark Zuckerberg oznámil, že spoločnosť buduje nástroje umelej inteligencie na riešenie príspevkov, ktoré obsahujú teroristický obsah, nenávistné prejavy, spam a ďalšie.
