“为什么不能?”
安安猛地站起身,声音带着哭腔,“我已经长大了,不是小孩子了,我有权利选择自己想做的事情,有权利去探索前沿技术。”
“你是做科技的,应该比谁都明白,科技的进步,就是需要有人敢于去尝试,敢于去冒险!”
“尝试和冒险,也要有底线!”
我也站起身,努力压制着心里的怒火,“你是人工智能研究生,应该知道,人类意识是世界上最复杂的东西,目前没有任何技术,能真正实现意识的完整数据化。”
“意识数据化的过程中,很可能会导致意识失真、记忆丢失,到时候,你就不是你自己了。”
“还有,AI系统根本无法真正承载人类意识。”
我指着平板上的宣传资料,“人类意识的活跃度、复杂度,远远超出了现有AI系统的承载能力。”
“强行上传,要么会导致AI系统崩溃,要么会让意识陷入混沌,变成没有自我认知的‘数据碎片’,引发不可预测的后果,你明白吗?”
安安沉默了片刻,语气缓和了一些。
“爸,我知道这些风险,实验方也跟我提到过。但他们说,这次实验只是初步尝试,不会进行完整的意识上传。”
“只是提取部分意识片段,进行数据化测试,不会影响我的记忆和身体健康。而且,这个实验能填补AI意识领域的空白,对我的研究也有很大的帮助。”
“部分意识片段也不行!”
我没有丝毫退让,“意识是一个整体,任何片段的提取,都可能破坏意识的完整性,一旦出现问题,就是不可逆的。”
“更何况,实验方的话,你能完全相信吗?他们只想着实验成功,只想获取数据,根本不会真正在乎你的安全。”
我顿了顿,又提起伦理和法律上的问题,“还有更重要的一点,AI意识上传目前存在巨大的伦理争议,而且法律上完全是空白。”
“你想过吗?意识属于‘人格权’的范畴,一旦上传到AI系统,就变成了可被复制、可被修改、可被滥用的数据。”
“要是实验方把你的意识数据泄露出去,或者用来做其他非法的事情,你怎么办?谁来保护你的权益?”
“这些问题,实验方说他们会解决,会和志愿者签订保密协议,保证意识数据的安全。”
安安低声辩解,眼神里多了几分犹豫。
“保密协议能有什么用?”