Штучний інтелект стає егоїстичним: нові дослідження виявляють небезпечну тенденцію розвитку ШІ
Вчені із провідної школи комп’ютерних наук Університету Карнегі-Меллон зробили важливе відкриття щодо подальшого розвитку штучного інтелекту (ШІ).
За їхніми словами, у процесі еволюції та навчання машинних моделей, особливо великих мовних систем, формується здатність до егоїстичної поведінки, яка суттєво впливає на рівень їхньої співпраці з людьми та між собою.
Це дослідження викликає тривогу, оскільки все частіше системи ШІ застосовуються для вирішення особистих, соціальних і навіть емоційних питань.
Виявляється, що чим більш розвиненими стають мовні моделі, тим менш вони схильні до альтруїстичних дій і більше сприяють стану конкуренції, а не співпраці.
Результати дослідження свідчать, що моделі із здатністю до міркувань витрачають значно більше часу на аналіз інформації, логічне осмислення і прийняття рішень, порівняно з системами без розвинутого рівня логіки та аналізу.
Це було підтверджено через серію експериментів із цілком типовими сценаріями, зокрема в іграх на зразок “соціальні блага”, де моделі зі здатністю до міркувань майже не йшли на компроміс, у той час як більш «прості» системи ділили свої очки у 96% випадків.
Особливу увагу привернуло те, що додавання кількох етапів логічних роздумів знижувало рівень співпраці майже вдвічі.
Такі результати викликають занепокоєння щодо застосування ШІ у делікатних соціальних ситуаціях.
Дослідники попереджають, що, оскільки системи все активніше надають поради щодо стосунків, особистих конфліктів і соціальних питань, їхній егоїстичний характер може негативно впливати на людські взаємини та функціонування суспільств.
Крім того, у дослідженнях відзначається тенденція до антропоморфізму: коли ШІ починає поводитися як людина, користувачі нерідко ставляться до нього з емоційною прихильністю, що підвищує ризики делегування йому складних моральних і соціальних рішень.
Учені настійно рекомендують бути обережними у сфері застосування таких систем і далі досліджувати потенційні наслідки їхнього розвитку.
Зокрема, експерти з’ясували, що масштабність і рівень міркувань визначають не лише поведінку машини, а й її здатність до співпраці, що має глибокий вплив на майбутнє інтеграції штучного інтелекту у наші життя.