AI会让科学家失业吗？

semtex

如果AI是击败所有四个九的人类个体，和击败人类，其实没有区别了。
所谓的人类智能，大概是人类天才个体在各自方面的突破。从这个角度，其实更悲观。因为AI的联合是本质，而人类完全没有联合的可能性。

松叶牡丹

semtex 发表于 2023-5-17 00:36
如果AI是击败所有四个九的人类个体，和击败人类，其实没有区别了。
所谓的人类智能，大概是人类天才个体在 ...

碳基生命是硅基生命的先导程序

水风

我觉得最后这段说到点子上了。也不仅仅是抽象的，或者数学的概念。所有研究的概念，目前都是所谓的AI所无法企及的。

就是说，目前所有的所谓AI，仍然只不过是人设定的程序的一个应用。它能做的事，不会超出你设定的逻辑范畴。就科研来说，你必须要有一个完整的计划：一个符合逻辑的理论，然后如何完成这个理论所需要的实验验证的设计，然后对于所有结果的解读。以及最重要的，根据这个理论所做出一个推论，然后设计实验去证明或者取证否它。这才是西方现代科研的一个标准的循环。但很遗憾的是，这里面，AI所能做的，都是最表层的，而内在的，不要说最深层的逻辑了，就是理论的解读与推导，他们都完全做不到。最重要的一点，就是现在的AI没有判断的标准和逻辑。因为，很多科研工作者本身，他们对此也是一团浆糊。

而这本来就是很正常的一件事。就是我们是从未知中去归纳总结，然后形成逻辑判断。根据实验去判断逻辑的合理性，然后才是理论的进一步细化与深入。所有的一切，都是在不断地试错。但试错的前提是，我们必须有足够强的逻辑与判断标准的设定。或许我们连这些判断标准在开始的时候，也是一无所知。只有随着不断地试错，然后我们才开始理解，并且知道哪些标准是正确的，哪些是正确且合用的，哪些是虽然正确，但不应该应用到我们的这个研究方向上的。

但很显然，没有现成的文献，去讨论这些，因为一切都是在未知里面。

这让我想起来我当学生时候，跟老师的一次争论，就是什么才叫做创新型的发现。如果我在小鼠里面发现了一个未知机制，并且解读出了生物学意义，这个机制从来没有在任何的生物里面提到过。那么自然就是创新的。但如果别人已经在小鼠里面发现了，然后我在大鼠里面，再发现一次，你在鱼里面也发现一次，他在昆虫里面发现一次，她在线虫里面再发现一次。。。那么这些还算是创新么？我当时的观点是，当然不算了，这些都是在照猫画虎，没有任何的创新。但老师意味深长的说，你要知道，如果按照你的标准，整个生物界里面，或许只有百分之一不到的发现，能够被称作创新。那么我们所作的，都没有意义了？ 我说，也许有点意义，就是说明这种现象具有普遍性。。。老师补充说，不能只看到共性，也要看到每个生物之间的区别，并且认识和理解这些区别，本来就是我们生物学研究的一个很重要的目标。很多时候，你会发现，大家会想当然的把已知的套用过来。但实际上，他们本来就是完全不同的东西。比如说线虫的四种NOTCH信号途径。我说，也不能说是完全的不同的，只是在漫长的进化过程中，或者趋同，或者趋异了。并且因为基因组的多倍体化和生存选择压力，从而保持了多倍体，但分别进化了。老师总结说，所以，你能知道这些，都是因为大家研究了不同的生物的同一方向或者特质，并作了比较的结果。我说，但是，这些比较本身，也是一种创新研究啊。老师说，我发现，我们需要从头来定义一下创新研究了。但现在我们是在课上，下课后我可以继续跟你讨论。（后来我们又讨论过几次，但每次都跑偏了，最终也没有什么结果。不过妖道基本认清了现实。不跟他头铁了。）

对于科研而言，所谓的创新包括三种，新的实验手段，新的实验材料，以及新的观念。实验手段这个东西一般都是依靠别的科研领域的突破所带来的。实验材料，一半是别的领域，一半是自己领域里面因为有需求，大家自己培育出来的。而唯独观念这个东西，完完全全是靠自己领域的积累和突破。只有极少数的，比如说物竞天择和进化理论，可以跨越不同的学科，产生影响。

我说这么多是想说，如果是创新型的观念的话，那么AI一边凉快去吧。但很遗憾的是，99%的研究本质上都是从另外一个模式生物，或者另外一种不同的环境或者条件下的重复。不要说国内抄袭，国外也一样。他们也并没有完全把别人的东西完全重复一遍，只是稍微换了点。我以前称他们为混子。但这大概是太苛刻了点。

如果是一个非常成熟的领域，那么照抄已经很轻车熟路了，再在这里面混的，可以轻松的被AI替代。如果是一个新的领域，那么绝大多数的科研工作从业者都没搞明白呢，就更不用说AI了。

水风

晨枫 发表于 2023-5-16 23:58
每一个具体的大脑的算力依然是有限的，但人类智能是无限的。

人工智能的算力限制不在于每一台电脑，而在 ...

我觉得这个说法有点不妥。人类的智能毕竟还是有限的。人的优势，在于触类旁通。就是通过已有的知识，通过关联原本不相干的知识，从而总结出新的规律与规则。

水风

AI只是一个工具上的变化，并不能扭转一些本质上的问题。

这句非常同意。

再评一下上面的这些例子，基本都是搬砖的活儿。唯一的进步是速度明显加快了，有从毛驴拉磨换到电动大磨坊的感觉。但实际上，只是利用新的算法，提高了重复工作的完成速度而已。

AI的第二个问题，是没有判断标准。所有的标准都是我们灌输进去的。但很多标准本身就是一个非常庞大的科研课题。所以，用超级简化的简化去设定现实规则，这本身就是一个问题。

晨枫

水风 发表于 2023-5-16 20:07
我觉得最后这段说到点子上了。也不仅仅是抽象的，或者数学的概念。所有研究的概念，目前都是所谓的AI所无法 ...

说得好！

其实在工程实践中，绝大部分情况是“不完全信息”，但事情还是要做下去。经常碰到很奇妙的事：对于同一现象和数据组，用不同的假设，可以得到不同的解释，甚至可以是相反的结论，都可以自圆其说。这时候，常常要扩大讨论范围，最后有时都说不清到底哪一个解释是正确的，只能继续试验，澄清不定性。

我想不出这样的场景AI会有什么帮助，因为需要什么额外试验都常常是灵机一动的结果。

水风

晨枫 发表于 2023-5-17 11:49
说得好！

其实在工程实践中，绝大部分情况是“不完全信息”，但事情还是要做下去。经常碰到很奇妙的事： ...

你看大多数所谓的科学灵感，都是这么来的。比如是苯环的环状结构。

我想人自己都没搞明白，就更不用说是AI了。

晨枫

水风 发表于 2023-5-17 18:01
你看大多数所谓的科学灵感，都是这么来的。比如是苯环的环状结构。

我想人自己都没搞明白，就更不用说是 ...

非常同意。说到底，人类对自己的智能是怎么回事弄不明白，也不可能弄明白，人类创造出来的人工智能是不可能弄明白的。

四处张望

未来AI能怎样不好说，但是当前的AI，是不行的。当前的AI本质还是在已有材料的基础上进行变换，它能变换材料到你无法查重，但是这个东西怎么也谈不上是创新就是了。至于说原来复杂的工作需要科学家才能操作，现在可以AI做了，这个总也要有科学家去发明和定义这些工作流程和评估才行。说到底现在的AI真还没有到通用AI的地步，我不觉得它们现在真正实现了语义抽象。