【資料圖】

【專家點評】

作者：張今杰（湘潭大學哲學與歷史文化學院院長、教授）

當代技術的發展日新月異，以大數據、云計算、人工智能、物聯網為代表的新一代數字技術日益與實體經濟深度融合，深深地影響著自然界、人類社會和人自身。如胡塞爾所提出的，自伽利略以來的近代西方文明，一直致力于將自然界數學化、機械化的目標，而這正是西方科學和文化危機產生的主要原因。我們姑且不論胡塞爾的論斷準確與否，但他確實引發了人類對技術及其發展的倫理反思浪潮。而其中的人工智能技術自誕生至今在短短幾十年內便滲透到了人類生產生活的每個角落之中。在人工智能為我們提供越來越多便捷的同時，很多人也在擔心：人工智能在未來是否會成為一個新的主體，跟人類一樣擁有自我意識和情感并最終取代人類？是否會破壞而不是增進人類的福祉？這是一種基于人本主義的倫理憂思，從這個角度看，三位青年學者聚集人工智能的倫理挑戰與科學應對這一主題展開對話，就怎樣前瞻研判科技發展帶來的規則沖突、社會風險、倫理挑戰進行學理闡釋，并就如何塑造科技向善的文化理念，讓人工智能更好增進人類福祉進行深入研討，是具有理論意義和實踐價值的。

人類的意識是長期進化的結果，是不可能被設計出來的。何為意識？到目前為止，“意識”的產生機制仍令科學家們困惑不已。其實意識并非人類所獨有的，有些動物也有相對于人類而言比較簡單的意識，例如狗就會看家護院，它們會在陌生人進入家中時感覺到不安全而吠叫。人們認為，意識是生命感知與適應環境、調整自身行為從而保護和完善自己的能力，意識的產生與生物的神經中樞——大腦有著緊密的聯系。但遺憾的是，我們對人的大腦如何產生意識這個根本問題的了解還不夠深入。幸運的是人類擁有地球上最高級最強大的大腦，它使得我們能完成一系列復雜的意識行為。人工智能是計算機科學的一個分支，它能通過執行人類的指令完成某些工作，產生類似人類的智能反應，但它并不擁有類似人類的意識。

在人們看來，現在的人工智能越來越“聰明”，甚至在某些領域比人類更“聰明”。其實人工智能的“聰明”僅僅是人類基于0和1的編程代碼來控制的，或者說人工智能之所以能模仿人類的思維而完成某項工作，關鍵因素是人類為它們量身打造的一串串操控代碼，人工智能僅僅是在完成人類的指令而已。因此無論人工智能如何強大，它也仍然只是在人類編制的智能程序對大量數據處理的基礎上得到的結果。目前來看，與人類相比，人工智能都是專能的。人類可以運用所掌握的知識輕松應對自己熟悉的領域中的難題，也能靈活處理陌生的未曾遭遇的困境；雖然目前不管是計算智能、翻譯智能、手術智能、圍棋智能、家政智能、聊天智能、駕駛智能還是字符識別、人臉識別、聲音識別等人工智能領域都發展迅猛，但它們僅能執行內置程序所規定的任務，超出程序規定和數據庫的內容和情形它們都無法處理。更重要的是，雖然人工智能可以在某個領域出色地完成人類規定的任務，但它們并不知道自己為什么要完成該項任務，更不會在此過程中擁有快樂、滿足的情感體驗。基于算法和大數據的人工智能是人類用以發展和改善生產生活的工具，人類發明和發展它們，目的是讓它們更好地為人類服務，而不是取代人類自身。

從這個意義上說，人工智能僅僅是一項服務于人類的技術，是人類的工具，人類沒有必要也不可能讓其擁有獨立的自我意識而成為取代人類自身的主體。一部人類文明史，同時也是一部人類不斷發展和創造工具以服務于人類自身的歷史。從石器到鐵器，再到電器，到現在的人工智能，都是人類體力和智力的延伸，都是作為一種工具而增強了人類某些方面的能力。地球上唯有人類擁有高度復雜的大腦結構、無比精細的意識與情感狀態。無論人工智能有多“聰明”，它也不可能擁有類似于人類的“智慧”與意識。其他碳基生物雖然有低等的意識，但與人類的智慧與意識相比幾乎可以忽略不計。

雖然人類主觀上不會讓人工智能發展成一個擁有類似人類的意識和情感的主體，但在信息化數字化智能化趨勢不斷演進、人工智能技術發展和應用場景拓展正在按下“快車鍵”的當下，其對人類生活帶來的新的風險挑戰越來越大，卻是一個不爭的事實。破解這一難題，我們必須前瞻研判人工智能帶來的規則沖突、社會風險、倫理挑戰，著力完善相關法律法規、倫理審查規則及監管框架，通過建立健全保障人工智能健康發展的倫理規范和法律體系，更好適應人工智能快速發展的新要求、新變化，從而推動人工智能向善發展、更好增進人類福祉。

《光明日報》（ 2023年04月10日?15版）