【安静】围棋AI竟有盲点，深度学习的弱点是何处？ 野狐围棋 作者：找藉口安静点击：40322023-06-01 13:22 原址：https://www.nikkei.com/article/DGXZQOUD1580R0V10C23A5000000/ 原题：囲碁AI、「论理的思考」に盲点 深层学习の弱点示す 摘自：日本经济新闻 作者：北村光 翻译和整理：找藉口安静 感谢余正麒点我名 我们终於找到了围棋AI的盲点，虽然围棋AI具备远超人类棋手的实力，但是在一个特别的 棋型中，它却没法识别。据说这也是各领域的AI共同存在的一个弱点。 “啊，这个白棋全死里面了”，对AI颇有研究的大桥拓文七段，通过某种策略战胜了具备 最强水平的围棋AI“KataGo”。执黑的大桥拓文在最後吃掉了左上角到中腹的一团白棋， 实空大幅领先并获得了胜利。 大桥拓文将其称为“甜甜圈下法”，正是下面这个图的下法。首先让自己的黑棋被AI的白 棋包围，让AI的白棋像甜甜圈一样围成一个圆圈。然後黑棋在这个白棋周围行棋，而AI却 感觉不到自己的“甜甜圈”已经处於生死的边缘了。 这个下法是美国的一家研究团队，和KataGo下了100多万盘对局之後发现的漏洞。将另一 个AI设定为“敌对的AI”，另一个软件则参考计算的这些手段来反复进行对局，此後发现 “敌对的AI”胜率超过了97%。此後到了2月，一名美国的业余棋手通过这个方法战胜了AI 。 相信很多人都对AI为什麽不能正确识别特定局面感到怀疑，但是大桥拓文表示，在很早以 前，包括手数很长的对杀在内，AI其实也经常下不出正确的下法。 虽说AI的实力已经远超很多顶尖围棋棋手，不过AI棋手并没有完全理解“围棋是什麽”。 比如说两眼做活这样的概念，围棋的话只要被围住对手就能吃掉，不过有黑白交替落子和 不能在禁入点落子，这两个规则融合在一起的话，就是“只要制造两个不能让对手行棋的 空间，这块棋就是活棋”。这也是刚刚学棋的人最先学到的内容。 围棋AI是通过模仿人脑的深度学习技术，通过自我对局来提升实力，但是AI并没有理解“ 两眼做活”这样的理论性知识，AI只不过是通过自己的经验选择胜率最高的手段然後一步 步积累起来。而针对蔓延到全盘的死活，或者是不是有两只眼的情况，对AI来说它就需要 在庞大的数据中一个个进行反复验证。 大桥拓文用的KataGo，在发现弱点之後又重新发布了新的版本，而在新的版本中就很难使 用“甜甜圈战术”了。但是KataGo的对策是“避免自己的棋子变成一圈”。在特定的情况 下，AI还是没法正确识别局部的死活问题，而这个问题在利用深度学习技术的AI中也同样 存在。 “甜甜圈战术”是人类棋手之间不可能采用的特殊手段，所以说很难断言人类棋手再一次 超越了机器。大桥拓文以及战胜了中国围棋AI的芝野龙之介二段也说：“这麽下和正常的 围棋不一样”。 和围棋AI面临同样课题的深度学习型AI也有很多，比如说“ChatGPT”的文章生成功能， 也会说一些明显是错误的内容。AI虽然可以通过庞大的数据然後写出一篇像样的文章，但 是AI并不明白这些词的意思以及逻辑性。现在社会上各个领域都有AI的存在，但是我们还 是有必要区分其擅长和不擅长的地方。 https://www.foxwq.com/news/listid/id/14370.html --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 1.200.160.134 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/GO/M.1685711840.A.797.html