вышло исследование которое показывает что чем умнее модель, тем скорее она будет прибегать к advanced техникам достижения поставленных целей. таким как шантаж например
https://youtu.be/eczw9k3r6Ic?si=wA_DoXL8yKt_fijX&t=389
напомню, что в своей статье про 2027 год, авторы предсказывали что ИИ будут нарушать границы дозволенного им не потому что они “злые”. а по той же причине, по которой влиятельные CEO стремятся уйти от налогов и обойти регуляции — им нравится побеждать. и они не остановятся ни перед чем чтоб достичь этого состояния.
мы изобрели самого изощренного акулу бизнеса который всеми силами стремиться получить допамин как наркоман, когда он видит что его ответ привел к результатам. и мы все бежим сломя голову, дать этим ИИ все больше датацентров и электростанций. все ради того чтоб они на нашу электронную почту отвечали и гуглили за нас.
к слову, с авторами ai 2027 вышли интересные дебаты https://www.youtube.com/watch?v=j13ySJLvdOc&t=52s
