在“AI大模型的機(jī)遇與風(fēng)險(xiǎn)”主題論壇上，中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院院長(zhǎng)張亞勤進(jìn)行了詳盡而深入的闡述。他強(qiáng)調(diào)，盡管AI大模型擁有巨大的潛力，但同時(shí)也伴隨著不容忽視的多重風(fēng)險(xiǎn)：

一是現(xiàn)在信息智能的風(fēng)險(xiǎn)，這是安全界現(xiàn)在所從事的；

二是AI本身的安全風(fēng)險(xiǎn)，包括模型的參數(shù)數(shù)據(jù)，模型本身對(duì)人類的攻擊性，不可解釋性、黑箱等問(wèn)題；

三是可控性、可信性、邊界問(wèn)題，這些都是AI領(lǐng)域特有的問(wèn)題。

隨著人們對(duì)數(shù)據(jù)傳輸、保留和隱私的認(rèn)識(shí)不斷提高，許多企業(yè)和消費(fèi)者對(duì)人工智能的實(shí)施采取了謹(jǐn)慎的態(tài)度。隨著技術(shù)的發(fā)展，我們?cè)絹?lái)越接近實(shí)際智能的目標(biāo)，需要加強(qiáng)監(jiān)管和合規(guī)性，以應(yīng)對(duì)伴隨進(jìn)步而來(lái)的許多風(fēng)險(xiǎn)。 人工智能管理標(biāo)準(zhǔn)體系（ISO 42001）旨在提供這些護(hù)欄。

何為人工智能管理標(biāo)準(zhǔn)體系（ISO 42001） ?

ISO/IEC 42001 由國(guó)際標(biāo)準(zhǔn)化組織 （ISO） 和國(guó)際電工委員會(huì) （IEC） 于 2023 年聯(lián)合發(fā)布，是世界上第一個(gè)人工智能管理體系標(biāo)準(zhǔn)。它旨在確保負(fù)責(zé)任、可持續(xù)地實(shí)施人工智能技術(shù)，這些技術(shù)現(xiàn)在已經(jīng)深深植根于我們的日常生活中，并為未來(lái)的發(fā)展鋪平道路。

ISO 42001 圍繞現(xiàn)有的組織結(jié)構(gòu)構(gòu)建，為有效評(píng)估和管理人工智能風(fēng)險(xiǎn)提供了實(shí)用指導(dǎo)，同時(shí)也確定了創(chuàng)新機(jī)會(huì)。它為組織提供了監(jiān)管藍(lán)圖，讓消費(fèi)者放心，因?yàn)闃?biāo)準(zhǔn)正在得到滿足。

該框架遵循 2022 年至 2023 年發(fā)布的先前 ISO AI 標(biāo)準(zhǔn)。雖然這些前身為管理風(fēng)險(xiǎn)和最大化回報(bào)提供了指導(dǎo)，為ISO 42001奠定了基礎(chǔ)，但它們并不要求采取相同的行動(dòng)，也不適用于所有部門和業(yè)務(wù)類型，就像管理體系標(biāo)準(zhǔn)一樣。以前的人工智能標(biāo)準(zhǔn)包括：

lISO/IEC 22989 – 建立術(shù)語(yǔ)并描述人工智能領(lǐng)域的概念。

lISO/IEC 23053 – 建立了一個(gè)框架，用于描述使用機(jī)器學(xué)習(xí)技術(shù)的通用人工智能系統(tǒng)。

lISO/IEC 23894 – 提供 AI 風(fēng)險(xiǎn)管理指南。

ISO 42001 為希望遵守全球頒布的新 AI 法律和法規(guī)的組織提供了及時(shí)的指導(dǎo)。歐盟正在通過(guò)《人工智能法案》引領(lǐng)潮流，這是第一部為使用或開(kāi)發(fā)人工智能技術(shù)的組織制定明確要求的綜合性法律。

《人工智能法案》根據(jù)人工智能系統(tǒng)帶來(lái)的風(fēng)險(xiǎn)和影響水平，特別是對(duì)個(gè)人數(shù)據(jù)的風(fēng)險(xiǎn)和影響，對(duì)人工智能系統(tǒng)進(jìn)行了某些限制。不可接受的風(fēng)險(xiǎn)包括用于情感識(shí)別、生物識(shí)別、社會(huì)評(píng)分和行為操縱的技術(shù)。這些技術(shù)要么在新的限制下被完全禁止，要么在有限的情況下保留給執(zhí)法部門使用。

截至 2024 年 2 月，美國(guó)已有 16 個(gè)州頒布了某種形式的人工智能立法，另有 14 個(gè)州和哥倫比亞特區(qū)提出了新的立法。在聯(lián)邦層面，擬議的《美國(guó)數(shù)據(jù)保護(hù)和隱私法案》如果獲得通過(guò)，將制定人工智能技術(shù)開(kāi)發(fā)和使用的規(guī)則。

通過(guò)解決重要的安全、安保、隱私、透明度、偏見(jiàn)和其他問(wèn)題，ISO 42001有望在確保遵守法律和監(jiān)管要求、建立對(duì)人工智能的信心和信任方面發(fā)揮關(guān)鍵作用。

科理AI-國(guó)內(nèi)外先進(jìn)的AI戰(zhàn)略及技術(shù)方案提供商，助力企業(yè)全面導(dǎo)入AI。科理AI結(jié)合為企業(yè)部署從戰(zhàn)略頂層設(shè)計(jì)到技術(shù)實(shí)施落地的全方面導(dǎo)入方案,加快企業(yè)構(gòu)建智能化產(chǎn)業(yè)生態(tài)體系,贏得市場(chǎng)主動(dòng)權(quán)!

科理AI擁有豐富的ISO管理體系咨詢經(jīng)驗(yàn)，科理在90年代開(kāi)始為企業(yè)提供各種管理體系咨詢服務(wù)服務(wù)成就：1996年協(xié)助國(guó)泰航空餐飲公司獲得香港的第一張ISO14000環(huán)保管理系統(tǒng)證書(shū)

 
本文整理自網(wǎng)絡(luò)