今天，我问一位心理学家，你怎么设计智商测试来评估一个比设计师更聪明的男人？他回答我，就像你设计国际象棋游戏程序一样，设计师无法赢得它！
但是，如果问题可以在这里得到解答，我不确定是初学者，但对我来说很有意思如果我们能编写一个程序可以自己进化和学习这样一个人类（甚至程序员）也无法预测它。我希望答案是假的，否则，未来可能会有病毒或蠕虫，不可预测的行为，控制着人类社会！
答案 0 :(得分：3)
人工智能代理在一些程序化空间内行动（国际象棋游戏代理在国际象棋游戏空间内）。
代理人不能离开编程空间。国际象棋代理人不太可能很快接管世界。从这个意义上来说，这是可以预测的。
这个空间中的行为有些可预测（这种行为毕竟是基于明确定义的数学方程式）（这些方程式通常非常复杂，因此不易预测，但可能），但通常会涉及一些随机性，这显然是不可预测的。
注意“智力”与可预测性不同。研究人员一直试图让AI真正智能化很长一段时间，（可以说）进展缓慢。
修改
请注意，某些代理可以将其编程空间作为整个世界。这并没有强制实施很多界限。
通过“编程空间”，我并不是指代理程序编程观察或执行的程序。如果一个经纪人只能看到国际象棋棋盘而且只能下棋，那么它将如何成为一个国际象棋游戏代理人呢？
真正的进化可能允许代理人扩展其编程空间，但我必须考虑这是否真的可行。
答案 1 :(得分：2)
有可能。国际象棋程序实际上大大超过了他们的设计师。他们以较小的利润率击败国际象棋世界冠军，但这只是时间问题。
有一个系统“学习如何更快地学习”的例子：地球上的进化已经优化了自己。优化基因和行为以促进高边际改善率。繁殖几乎永远不会失败，由于天然缺陷（辐射，化学过程......），基因只有适量的突变。 “可调参数”设置得很好。
答案 2 :(得分：1)
我认为问题中的文字描述了两个情况：
第一个alinea包括智商测试和国际象棋游戏。两者都有有限的选择。尽管存在很多可能性，但它仅限于一定数量，并且从开始就可以排除很多，因为它们的使用太低甚至无法考虑。因此，存在这样的程序。请注意，仍然有很多可能性，这就是为什么它还不完美。
第二个alinea涵盖自学习程序或机器人。在现实世界中，存在着无限的可能性，可能发生的事情。你可能会尝试编写一个程序，但是没有办法（在不久的将来）你可以接受生活所提供的所有东西。
我必须对Dukeling的评论发表评论。如果你设法编写一个程序，可以学会对生活中提供的所有东西做出反应（包括负面部分），那么像这样的AI可能会评估他自己的“空间”，并且能够看到甚至走出它。
长话短说：它会发生。它的结果将是未知的：要么机器人编程完美，要么将关闭，否则人类就会灭绝。每一个场景都是可能的，这要归功于我们将以您现在甚至无法想象的速度推进技术发展。有疑虑吗？ 50年前去告诉别人一台机器击败了国际象棋中最好的球员。