多年來多公司努力嘗試解決網絡欺凌問題,甚至嘗試利用機器學習等 AI 技術來識別在線欺凌事件。不過在可以自由表達自己情緒的互聯網世界里,“惡意”的虛擬環境反而成為此類事件猖獗的溫床。然而每個人對“惡意”網絡環境的定義都存在差別,對于可能冒犯他人的話語有不同的觀點和解釋。

微軟新專利:“惡意屏蔽”功能來減緩網絡欺凌問題

微軟似乎帶來了一個非常有趣的解決方案,在最新專利中設想了一個個性化的“惡意屏蔽”功能,可以根據用戶的喜好監控通信和審查數據。這些通信可以包括基于語音或基于文本的聊天,例如多人游戲會話中的聊天,甚至可以擴展至視頻直播中的圖形展示。此外該系統還可以部署到在線 Web 會議或者 VR/AR 會話中。

微軟新專利:“惡意屏蔽”功能來減緩網絡欺凌問題

 “惡意屏蔽”會過濾的內容不僅包括咒罵,還可能包括各種不良行為,例如有人在麥克風前大口喘息,或者在虛擬環境中離你靠的太近。“惡意屏蔽”可以分析“公差數據”以部署特定于用戶的毒性屏蔽模塊(TSM),這些 TSM 還可以基于通過機器學習引擎生成的預測模型,該機器學習引擎分析對毒性行為的反應。可以選擇默認配置文件以向引擎提供其所需的所有信息,而用戶也可以為相同目的手動設置。