世衛(wèi)警告醫(yī)療AI對貧窮國家構(gòu)成危險

世界衛(wèi)生組織（WHO）警告稱，引入基于人工智能（AI）的醫(yī)療保健技術(shù)可能對低收入國家人群是“危險的”。

據(jù)《自然》報道，WHO于1月18日發(fā)布了一份大型多模態(tài)模型（LMMs）新指南，指出技術(shù)的使用和開發(fā)不能只由科技公司和富裕國家決定，這一點(diǎn)至關(guān)重要。該機(jī)構(gòu)表示，如果沒有根據(jù)資源不足地區(qū)人們的數(shù)據(jù)對模型進(jìn)行訓(xùn)練，那么這些算法很可能無法為人們提供良好的服務(wù)。

“作為技術(shù)飛躍的一部分，我們最不希望看到的是世界各國社會結(jié)構(gòu)中的不平等和偏見被傳播或放大?！盬HO數(shù)字健康與創(chuàng)新總監(jiān)Alain Labrique表示。

事實(shí)上，WHO首份關(guān)于AI醫(yī)療保健的指南發(fā)布于2021年。但在生成式人工智能浪潮的推動下，LMMs的威力和可用性迅速提高，這促使WHO在首份指南發(fā)布不到3年后就進(jìn)行了更新。

WHO表示，LMMs是歷史上被采用速度最快的消費(fèi)應(yīng)用程序，其中醫(yī)療保健是一個很受歡迎的目標(biāo)。AI模型可以生成臨床筆記、填寫表格并幫助醫(yī)生診斷和治療患者，因此一些公司和醫(yī)療保健供應(yīng)商正在開發(fā)特定的AI工具。

但LMMs在為人們帶來便利的同時，又存在不少隱患，WHO更新指南的目的就是確保LMMs的爆發(fā)式增長能夠促進(jìn)和保護(hù)公眾健康，而非破壞公眾健康。

WHO警告在最壞的情況下，全球可能出現(xiàn)“惡性競爭”，即公司為了搶先發(fā)布，而忽視應(yīng)用程序的無效性和不安全性。這甚至增加了模式坍塌的可能性，從而進(jìn)入一個虛假信息循環(huán)，基于不準(zhǔn)確或虛假信息訓(xùn)練出來的LMMs會污染互聯(lián)網(wǎng)等公共信息來源。

“生成式AI有潛力改善醫(yī)療保健，但前提是開發(fā)、監(jiān)管和使用這些技術(shù)的人能夠識別并充分考慮相關(guān)風(fēng)險?！盬HO首席科學(xué)家Jeremy Farrar表示。

在Labrique看來，這些強(qiáng)大工具的操作決不能只靠科技公司完成，各國政府必須合作，以有效監(jiān)管AI技術(shù)的開發(fā)和使用。民間社會團(tuán)體和接受醫(yī)療保健的人必須為LMMs開發(fā)和部署的各個階段作出貢獻(xiàn)，這包括監(jiān)督和監(jiān)管。

WHO強(qiáng)調(diào)，鑒于這些模型的訓(xùn)練、部署和維護(hù)成本高昂，LMMs開發(fā)有可能被行業(yè)主導(dǎo)，目前已經(jīng)有令人信服的證據(jù)表明，在AI研究方面，大型公司正在排擠高校和政府，而博士生和教職員工以前所未有的規(guī)模離開學(xué)術(shù)界投身其中。

指南建議，從事醫(yī)療保健或科學(xué)研究的LMMs開發(fā)人員應(yīng)接受與醫(yī)生相同水平的道德培訓(xùn)。此外，各國政府可以要求開發(fā)者注冊早期算法，以鼓勵公布負(fù)面結(jié)果，防止出現(xiàn)偏見和炒作。

作者：許悅 來源：中國科學(xué)報

亞氯酸鈉（Sodium hypochlorite，化學(xué)式：NaClO）是一種無色或淡黃色液體，常用作漂白劑和消毒劑。以下是亞氯酸鈉的一些化學(xué)性質(zhì)：

1. 氧化性：亞氯酸鈉是一種氧化性化合物，能夠與許多物質(zhì)發(fā)生氧化反應(yīng)。

2. 氯化性：亞氯酸鈉在水中能夠迅速分解，生成次氯酸（HClO）和氫氧化鈉（NaOH）。亞氯酸是一種比亞氯酸鈉更強(qiáng)的氧化劑。

3. 消毒性：亞氯酸鈉具有較強(qiáng)的殺菌消毒作用，可用消毒水源、池塘和水處理。

4. 漂白性：亞氯酸鈉可用作漂白劑，能夠?qū)⒃S多染料和有機(jī)物氧化漂白。

5. 不穩(wěn)定性：亞氯酸鈉在陽光照射下會逐漸分解，所以需要存放在暗處，避免陽光直射。

需要注意的是，亞氯酸鈉是一種腐蝕性較強(qiáng)的化學(xué)物質(zhì)，在處理和使用時應(yīng)采取適當(dāng)?shù)姆雷o(hù)措施。同時，避免與酸性物質(zhì)或易燃物質(zhì)接觸，以免引發(fā)危險反應(yīng)。