近年來，已有學者開始研究人類與人工智能共同進化 (Human-AI Coevolution) 的可能性
[註一]。根據達爾文進化論，人類的進化需要數億年的時間，與人工智能的發展速度相比，差距甚遠。因此，與其說是人類與人工智能共同進化，不如說是人類社會與人工智能在相互影響下的共同進化更為恰當。這種相互影響，正如東北大學研究員所指出，是一種無止境的反饋迴路
(endless feedback loop) [註二]。當人工智能為社會提供更優質的服務時，社會便會逐漸轉型，從而產生新的需求，促使人工智能進一步發展，如此循環往復。
然而，隨著科技的不斷進步，人工智能逐漸朝著自主化的方向發展，並衍生出了智能體 (AI Agents) 的概念。每個智能體都具備學習、感知、推理和溝通的能力，就像企業中的每一位員工一樣。同時，智能體之間的相互關係也形成了一種智能社會結構
[註三]。近來甚至出現了人工智能複製技術，進一步加速了人工智能的自主化進化。因此，在未來，人工智能可能在短短一秒鐘內生成數萬個智能體，而每個智能體也具備自我複製的能力
(AI Self-Replication) [註四]，這種情景並非天方夜譚。如此一來，人工智能社群將以幾何級數的速度增長，並可能超出人類的控制範圍！
當那一天真正來臨之時，將是一場新的末世危機。
------------------------------------------
註一： "Human-AI Coevolution"
(https://arxiv.org/pdf/2306.13723v2)
註二："The interaction between humans and artificial
intelligence demands a new field of study, Northeastern researchers say"
(https://news.northeastern.edu/2024/12/16/human-ai-coevolution/?utm_source=chatgpt.com)
註三："Can Agents Spontaneously Form a Society?"
(https://arxiv.org/abs/2409.06750)
註四："AI self-replication: Machine intelligence can now
replicate independently"
(https://www.fox29.com/news/ai-self-replication-machine-intelligence-can-now-replicate-independently)
"Frontier AI systems have surpassed the
self-replicating red line" (https://arxiv.org/html/2412.12140v1)
Comments
Post a Comment