人工智能科學(xué)與技術(shù)的發(fā)展日新月異，它直接作用于社會，也將以最直接的方式接收到社會的反饋。它在推動科技、經(jīng)濟(jì)、社會的發(fā)展中起到的持續(xù)性積極作用毋庸置疑，然而如果在其發(fā)展過程中沒有對社會潛在影響和可持續(xù)性進(jìn)行充分考慮，可能會造成預(yù)期之外的負(fù)面影響。因此，對人工智能倫理的考量應(yīng)貫穿于人工智能產(chǎn)品與服務(wù)的整個生命周期。

需秉承以人為本及可持續(xù)發(fā)展的理念

符合人類倫理與價值觀的人工智能應(yīng)秉承以人為本及可持續(xù)發(fā)展的理念，尊重隱私，促進(jìn)公平公正，不引入種族、文化等偏見，人工智能技術(shù)的發(fā)展應(yīng)做到透明與可解釋、安全可控、可驗證、可追責(zé)，為推動技術(shù)普惠各行各業(yè)、各個國家與地區(qū)，應(yīng)避免惡意競爭，促進(jìn)開放合作與包容共享。

倡導(dǎo)和諧發(fā)展應(yīng)當(dāng)是新一代人工智能倫理與治理的主旋律。一方面為實現(xiàn)通過人工智能增進(jìn)人類共同福祉這一目標(biāo)，采用的途徑并不唯一，應(yīng)當(dāng)始終秉承與實踐和而不同、和合向善的發(fā)展理念。另一方面應(yīng)推動人類與技術(shù)的和諧共生，避免技術(shù)的誤用、濫用、惡用對人類權(quán)益的傷害，總體愿景應(yīng)是發(fā)展對人類與生態(tài)有益的人工智能。

無論采取哪種技術(shù)途徑實現(xiàn)新一代人工智能，都無法杜絕在發(fā)展過程中可能帶來的潛在技術(shù)與社會風(fēng)險及對現(xiàn)代科技倫理的潛在沖擊。技術(shù)發(fā)展的途徑與方式的多樣性使得其所帶來的風(fēng)險也具有不確定性，因此應(yīng)當(dāng)在探索新一代人工智能，特別是不同類型的高等智能的過程中，建立對其技術(shù)與社會風(fēng)險的持續(xù)戰(zhàn)略性前瞻研究，以避免、降低潛在風(fēng)險帶來的負(fù)面影響。

在對未來人工智能的潛在風(fēng)險及應(yīng)對策略的研究方面，應(yīng)最大限度地共享對隱患的認(rèn)識及危機(jī)處理方案與經(jīng)驗。只有建立全球共享、群策群力的機(jī)制并采取行動，才能保證安全，避免顛覆性技術(shù)可能帶來的災(zāi)難性風(fēng)險。

多方協(xié)作實現(xiàn)發(fā)展與治理雙輪驅(qū)動

作為我國新一代人工智能戰(zhàn)略的牽頭單位，2019年3月，科技部組建了國家新一代人工智能治理專業(yè)委員會。同年6月，該委員會發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，這是我國新一代人工智能戰(zhàn)略對發(fā)展與治理關(guān)系的原則性闡述，也是中國新一代人工智能治理的重要基礎(chǔ)。

為了確保中國新一代人工智能向?qū)ι鐣幸娴姆较虬l(fā)展，新一代人工智能應(yīng)采取發(fā)展與治理雙輪驅(qū)動的戰(zhàn)略。治理的目的并不是阻礙發(fā)展，而是保持發(fā)展的穩(wěn)健。

敏捷治理應(yīng)成為中國人工智能治理重要特征之一。這里敏捷治理可以被解讀為有兩方面的含義：一方面是人工智能治理隨人工智能技術(shù)的進(jìn)展進(jìn)行自適應(yīng)，使得治理工作能夠更適應(yīng)發(fā)展的特點;另一方面是相關(guān)治理工作動作迅速。

與新一代人工智能發(fā)展一脈相承，作為中國人工智能發(fā)展的重要方面，人工智能治理在中國也應(yīng)通過多部門聯(lián)動深度協(xié)作的方式進(jìn)行。政府部門、科研機(jī)構(gòu)、企業(yè)等創(chuàng)新單元在人工智能治理工作中應(yīng)各自承擔(dān)相應(yīng)的責(zé)任并深度協(xié)作，真正從技術(shù)和社會等不同視角實現(xiàn)新一代人工智能的敏捷治理。

建立人工智能治理公共服務(wù)體系防患于未然

未來，一方面需要政府相關(guān)部門、科研機(jī)構(gòu)、產(chǎn)業(yè)對人工智能可能存在的風(fēng)險、安全與倫理隱患加以足夠的重視，并對人工智能倫理與治理進(jìn)行戰(zhàn)略性的關(guān)注與投入，加強(qiáng)自律自治。另一方面，對于國家和地方相關(guān)機(jī)構(gòu)而言，應(yīng)當(dāng)推動人工智能治理相關(guān)高端智庫、執(zhí)行機(jī)構(gòu)、協(xié)作網(wǎng)絡(luò)的建立，并鼓勵公眾參與討論，及時了解公眾對技術(shù)參與變革社會的思考。

需要指出，新一代人工智能治理工作的重點應(yīng)當(dāng)是防患于未然，而不僅僅是事后的警戒、責(zé)令整改與懲治。發(fā)展與治理的雙輪驅(qū)動需要將人工智能倫理與治理工作推動為兼服務(wù)與監(jiān)管于一身的公共體系。應(yīng)鼓勵政府相關(guān)部門、科研機(jī)構(gòu)、企業(yè)及其他創(chuàng)新單元，乃至公眾共建新一代人工智能倫理與治理公共體系。應(yīng)在政府和相關(guān)機(jī)構(gòu)的指導(dǎo)下，鼓勵新一代人工智能倫理與治理公共服務(wù)平臺的建設(shè)并面向政府、科研機(jī)構(gòu)、企業(yè)、公眾提供服務(wù)，從而負(fù)責(zé)任地推動并確保新一代人工智能的穩(wěn)健發(fā)展。(作者系中科院自動化研究所研究員、北京智源人工智能研究院人工智能倫理與安全中心主任 曾毅)

關(guān)鍵詞： AI倫理考量