WES World – Facebook создала собственную ботоферму – изолированную платформу ботов для изучения троллей и мошенников

WES World - Facebook создала собственную ботоферму – изолированную платформу ботов для изучения троллей и мошенниковКомпания Facebook хочет помешать людям злоупотреблять своей системой, поэтому она создает платформу ботов, которые могут подражать людям. Это своеобразная изолированная версия Facebook, где вместо живых пользователей программные боты смогут добавляться в друзья, делиться публикациями и ставить им отметки (или же раздражать, оскорблять и мошенничать) вдали от человеческих глаз.
Facebook описывает платформу как уменьшенную изолированную симуляцию соцсети, заполненную поддельными пользователями, которые моделируют различные виды реального поведения. Например, бот-мошенник может быть обучен связываться с «целевыми» ботами, которые демонстрируют поведение, похожее на реальных жертв мошенничества на Facebook. Другие боты могут быть обучены вторжению в личную жизнь пользователей или поиску «плохого» контента, который нарушает правила Facebook.
Facebook создала собственную ботоферму – изолированную платформу ботов для изучения троллей и мошенниковПрограммное моделирование реального поведения позволит Facebook, например, выявлять ошибки. Исследователи смогут создать WES-пользователей (Web Enabled Simulation), единственной целью которых является, например, кража информации у других ботов. Если они вдруг найдут способы получить доступ к большему количеству данных после обновления, это может указывать на уязвимость, которую могут использовать реальные мошенники. Но при этом никакие данные реальных пользователей не пострадают, и ошибку можно будет устранить ещё до того, как она появится на реальной платформе.

Некоторые боты могут получить доступ только для чтения к «настоящей» Facebook, но при условии, что они не имеют доступа к данным, которые нарушают правила конфиденциальности. Тогда они могли бы реагировать на эти данные исключительно для чтения. Исследователи отмечают, что «боты должны быть надлежащим образом изолированы от реальных пользователей, чтобы симуляция, хотя и выполнялась на реальном коде платформы, не приводила к неожиданным взаимодействиям между ботами и реальными пользователями».
Однако основная цель заключается именно в создании параллельной виртуальной версии социальной платформы, где исследователи могут развёртывать «полностью изолированные боты, которые могут демонстрировать произвольные действия и наблюдения». При этом исследователи получат возможность моделировать, как пользователи могут реагировать на изменения в платформе. Часто Facebook делает изменения на платформе и тестирует их на небольших группах реальных людей. А теперь для этих задач можно будет использовать ботов.
Facebook назвала свою систему WW – WES World.