Elementi i toksikes është një problem real në komunitetin online dhe mbi të gjitha është diçka që lë shumë impakt në lojëra. Për ta parandaluar rritjen e mëtejshme të këtij problemi, FACEIT bashkëpunoi me Google Cloud dhe Jigsaw për të krijuar një Artificial Intelligence që ndëshkon sjelljen toksike.
Kjo veçori, e emërtuar Minerva, është live dha ka punuar fort gjatë muajve të fundit me një ritëm të paparë. Në fakt, në muajin e parë të aktivitetit të saj, Minerva solli 90,000 paralajmërime për lojtarët dhe 20,000 bans për abuzim verbal dhe spam. Si rezultat, mesazhet toksike u reduktuan me 20,13% vetëm në muajin e shtatorit.
Kjo AI, ka qenë funksionale për rreth një vit, si pjesë e angazhimit të FACEIT për të sjellë një eksperiencë më të mirë në platformën e tij. Kompania vendosi të investonte në një zgjidhje afatgjatë që nuk do të kishte nevojë për review manuale. Kështu lindi Minerva.
“U bë e qartë se toksiciteti në vetëvete shprehej në shumë mënyra të ndryshme. Nuk është e lehtë ta identifikosh dhe ta zgjidhësh problemin,” është shprehur FACEIT. “Kërkesa nga një pjesë e madhe e komunitetit, ishte që prezencë vëshguese që të gjykonte çdp ndeshje që ndodhte në FACEIT, diçka që me volumin e ndeshjeve ishte e pamundur.”
“Mund të kishim sjellë një zgjidhje momentale, por kjo nuk do na kishte sjellë rezultatet e dëshiruara në terma afatgjatë. Ndaj vendosëm të investonim në në ndërtuarin e një AI.”
Nëse Minerva identifikon një mesazh që është toksik, ajo merr masa brenda sekondave. Fillimisht përdoruesit i dërgohet një paralajmërim. Nëse shkeljet e tyre janë të përsëritura, ata do të marrin një ban.
FACEIT është i bindur që Minerva është duke sjellë rezultate. Minerva gjithashtu po ndihmon me problemin e account boosters dhe smurfs në platformë, duke i bërë flag adresave që duken të dyshimta. Minerva ka bërë flag 250,000 adresa, ku 50,000 prej tyre janë ndaluar që të luajnë sërish.
Për një makinë që kishte një vit në punë e sipër, rezultatet e saj janë mbreslënëse. Do të jetë interesante të shohim se ku do e çojë FACEIT Minervën në të ardhmen.