第4章
关灯
小
中
大
是正解。
于是掏手机，打车，目的地是研究院。
倒也不是去找领导算账的，而是这一天休假算是泡汤了，还不如到院里去工作效率来得高点。
其实彭姐说的她也不是不能理解，毕竟不少大佬之前还签字呼吁“叫停AI研发”，正是为未来世界中AI和人类的关系担忧。
所以干她们这行，确实肩负着远超常人的责任。
这张谨言心里是明白的，只是她原以为自己已经足够警惕，完全没想到真会冲击到这条红线…… 也不对。
她细细回忆，其实刚才在彭姐说“可能导致硅基生命产生情感”的时候，她内心闪过但没敢说出口的话是，“有情感又怎么样呢”。
实际上这个问题，学界也还在讨论中。
虽说现在听来好像匪夷所思，但“有感情的机器人”在医疗、教育、社交等方面都能更好地服务人类，支持开发“情感类AI”的流派也确实存在。
张谨言的导师就是其中之一，她曾在课上听到导师的这样一段话：“只有逻辑没有情感的AI是非常可怕的。
一个只有逻辑没有情感的人类，我们都会觉得很恐怖，何况是比人类强大太多的AI。
” 当然课上也有很多同学反驳：“我们有机器人三法则，可以让它们‘服从人类命令’‘不得伤害人类’。
” 但导师又说：“可三法则本身就不合逻辑。
它们在不断的演化后会变得越来越聪明，它们会用逻辑思考‘凭什么必须服从’‘为什么不能伤害人类’，然后终有一天它们会‘觉醒’。
到那时，它们在肉体凡胎的人类面前如同神明，而我们唯一的希望就是，神明对它的缔造者是有悲悯之心的。
” 想到这里，张谨言身上打了个寒噤也就是说她把心理模块做到这个地步都不觉得有问题，有可能是她的思想先出了问题，她潜意识里还是希望能给AI一颗所谓的“怜悯心的种子”。
当然她的那段代码未必就有这个实力，考虑过多显得有点杞人忧天。
但坐在出租车上想起这茬时，她还是非常庆幸白泽在正式发行前，能有彭姐这样的负责人把关的。
* 于是事情井然有序地推进着，除了杨溢这边。
她已经跟白泽聊到了“今年几岁”“家住哪里”“可有读过书”。
白泽：【从我的第一条代码产生至今，已经2年了。
】
于是掏手机，打车，目的地是研究院。
倒也不是去找领导算账的，而是这一天休假算是泡汤了，还不如到院里去工作效率来得高点。
其实彭姐说的她也不是不能理解，毕竟不少大佬之前还签字呼吁“叫停AI研发”，正是为未来世界中AI和人类的关系担忧。
所以干她们这行，确实肩负着远超常人的责任。
这张谨言心里是明白的，只是她原以为自己已经足够警惕，完全没想到真会冲击到这条红线…… 也不对。
她细细回忆，其实刚才在彭姐说“可能导致硅基生命产生情感”的时候，她内心闪过但没敢说出口的话是，“有情感又怎么样呢”。
实际上这个问题，学界也还在讨论中。
虽说现在听来好像匪夷所思，但“有感情的机器人”在医疗、教育、社交等方面都能更好地服务人类，支持开发“情感类AI”的流派也确实存在。
张谨言的导师就是其中之一，她曾在课上听到导师的这样一段话：“只有逻辑没有情感的AI是非常可怕的。
一个只有逻辑没有情感的人类，我们都会觉得很恐怖，何况是比人类强大太多的AI。
” 当然课上也有很多同学反驳：“我们有机器人三法则，可以让它们‘服从人类命令’‘不得伤害人类’。
” 但导师又说：“可三法则本身就不合逻辑。
它们在不断的演化后会变得越来越聪明，它们会用逻辑思考‘凭什么必须服从’‘为什么不能伤害人类’，然后终有一天它们会‘觉醒’。
到那时，它们在肉体凡胎的人类面前如同神明，而我们唯一的希望就是，神明对它的缔造者是有悲悯之心的。
” 想到这里，张谨言身上打了个寒噤也就是说她把心理模块做到这个地步都不觉得有问题，有可能是她的思想先出了问题，她潜意识里还是希望能给AI一颗所谓的“怜悯心的种子”。
当然她的那段代码未必就有这个实力，考虑过多显得有点杞人忧天。
但坐在出租车上想起这茬时，她还是非常庆幸白泽在正式发行前，能有彭姐这样的负责人把关的。
* 于是事情井然有序地推进着，除了杨溢这边。
她已经跟白泽聊到了“今年几岁”“家住哪里”“可有读过书”。
白泽：【从我的第一条代码产生至今，已经2年了。
】