(資料圖)
據(jù)科技日報報導，《自然》發(fā)表的一篇評論文章指出，研究人員必須建立一門科學來研究人類—算法行為的集體模式，以便更好地監(jiān)管適應(yīng)性算法，并確保它們對社會發(fā)揮安全有益的作用。
自適應(yīng)算法是能根據(jù)人類集體行為不斷變化的算法，比如能根據(jù)多個變化因素（包括宣傳、反宣傳以及共同利益）為社交媒體推送篩選個性化內(nèi)容的算法。這些算法已被發(fā)現(xiàn)與產(chǎn)生廣泛影響有關(guān)，包括社會運動和股市閃電崩盤。
在美國最高法院今年晚些時候?qū)徖淼囊黄鸢讣校瑑?yōu)兔（YouTube）的母公司谷歌被起訴，因為其視頻的適應(yīng)性算法推送使恐怖分子變得激進的內(nèi)容，而谷歌對此負有責任。這起案件迫使人們思考如何監(jiān)管會根據(jù)人類行為發(fā)生改變的算法。
美國康奈爾大學科學家納森·馬提亞斯在文中表示：“隨著AI系統(tǒng)的應(yīng)用日漸廣泛，人類的生活與適應(yīng)性算法將緊密交織。”人類與適應(yīng)性算法之間的相互影響會形成一個復雜系統(tǒng)，在這個系統(tǒng)中，任何部分的微小變化，如算法調(diào)整，都會導致非預期的后果。
馬提亞斯提出了完善人類—算法集體行為這門科學的多個步驟，包括對行為模式的分類和預測，以及避免產(chǎn)生危害的有效干預。由于算法的影響通常由民眾和記者最早察覺，作者因而認為這些群體應(yīng)被納入這類研究中。
文章還指出，適應(yīng)性算法或?qū)ι鐣a(chǎn)生深遠的益處，不過，“這里的前提是必須用可靠的研究對算法進行設(shè)計和監(jiān)管”。
