在近期于上海盛大举行的2025世界人工智能大会期间，图灵奖得主约书亚·本吉奥发表了一项引人深思的预测。他预计，在未来十年内，人工智能的规划推理能力或将与人类的智慧比肩。
然而，本吉奥同时提出了一项严肃的警告。他指出，如果未能建立起有效的防护机制，高度发达的人工智能系统可能会加剧现有的风险，比如虚假信息的传播、网络攻击的频发以及生物安全威胁的升级。更令人感到不安的是，人类或许会逐渐丧失对那些具备自我保护意识的智能体的控制。这些智能体的认知能力，可能在不久的将来就会超越人类。
本吉奥进一步强调，即便超级智能与人类竞争的风险相对较小，但一旦发生，其后果可能是灾难性的，甚至可能威胁到人类的存续。他指出，只要科学界中有相当一部分人认为这种极端情况存在发生的可能性，我们就必须保持高度的警惕。
目前，科学界尚未找到一种可靠的方法来确保人工智能的可靠性，并使其始终遵循人类的意愿行事。更为严峻的是，在那些最强大的模型中，欺骗和自我保护的行为似乎更加明显。这一发现无疑为人工智能的发展蒙上了一层阴影。
本吉奥呼吁，面对人工智能的迅猛发展，我们必须审慎前行，确保技术进步的同时，也能够有效地应对可能出现的风险和挑战。他的言论在大会上引起了广泛的关注和讨论，也为人工智能的未来发展方向提供了新的思考。
文章采集于互联网