当前位置:文化 > 博览 > 思想 > 正文

人工智能多可怕?方舟子:要求科学家有伦理要求(3)

2016-03-16 10:44:56  北京晨报    参与评论()人

正如人们所知道的那样,计算机智能技术是在充分总结人类经验教训的基础之上,通过提高计算机的运算效率,分析各种可能性,从而实现智能化的决策。但是,计算机智能技术的最大弱点就在于,它无法充分反映感情因素,对于在体育比赛过程中可能出现的感情因素以及其他社会性因素,计算机很难有效作出判断,因此,也很难作出正确决策。譬如,如果计算机世界冠军出于感情上的考虑,而决定放弃比赛,或者在比赛的过程中故意露出破绽,那么,计算机很难及时作出反应。更令人感到担忧的是,如果世界冠军在比赛的过程中,不是为了赢得奖金,而是为了输掉比赛,从地下赌场获得更多奖金或者赎金,那么,计算机肯定会取得胜利。

简单地说,计算机可以专心致志地和世界冠军进行对垒,但是,计算机永远是勇往直前。他的终极目标是取得胜利。可是,对于世界冠军而言,它的目标则可能是多元的。如果他是为了争取失败,那么,在和计算机进行比赛的过程中,他可以利用任何一次机会,为自己争取商业利益。这是社会复杂性所决定的,也是计算机技术永远无法逾越的高山大海。

人的社会性非常复杂,人类除了可以进行高速运算之外,还有复杂的情感和巨大的商业利益,因此,如果忘记了人类的情感,忘记了人类所需要的商业价值,那就会过于关注比赛的结果。当然,我们希望世界围棋冠军能够尽心尽力,充分展示自己的力量。但不能排除一些地下组织或者个人对这场世界关注的比赛设立地下赌局,那我们有什么理由对这样的比赛给予充分信任和无限的赞美呢?真诚地希望计算机能不断提高运算速度,但也真诚地希望计算机不要了解人类的弱点,并且通过精密的计算把人类的弱点用于战胜人类的过程之中。毕竟,开发运用人类的弱点是容易的,可是如果计算机完全掌握了人类的弱点,那人类的一切不堪,都会暴露在光天化日之下。

北京晨报记者 周怀宗

(责任编辑:刘畅 CC002)