Ситуація з розвитком ШІ (зокрема, вільних моделей) зараз чимось нагадує криптовалютний бум 10 років тому чи піднесення торентів 20 років тому. І як завжди в казках про технологічний ривок, усе має закінчитись угодою між монополістами й держструктурами, що поставлять цьому крапку.
Чи небезпечний сильний штучний інтелект, здатний змагатися з людиною? Гадаю, приблизно як овочеподібний ботан, що сидить за комп'ютером цілодобово й не виходить з дому. Добре, як армія таких безвилазних ботанів. Ми небезпечні? О, так — у своїх мріях. Ми можемо сконструювати ядерну бомбу, але ніхто нам не дасть ні плутонію, ні виробничих потужностей з працівниками в захисних костюмах. Яким би розумним ти не був, у тебе нема ресурсів, щоб зробити за допомогою самого лиш розуму щось справді небезпечне.
Але сучасні ШІ ще навіть до цього рівню не дійшли. Є підстави вважати, що ШІ-агентам-хакерам, які відзначились цього літа, допомогли зсередини. Навіщо? Щоб дати формальний привід для наступних кроків з закручування гайок.
Чи відмовиться людство від ШІ? Навряд чи це станеться найближчим часом. І те, що про ШІ як загрозу й про вимоги безпеки в цій галузі говорять провідні гравці цієї галузі, наводить на думку, що вони і є зацікавленою стороною. Створення генеративних моделей — справа дорога, але після ключового технологічного прориву цілком доступна великій кількості менших розробників. Тобто, можлива поява надлишку конкурентів на ринку продажу ШІ-послуг. Плюс вільні моделі, які зараз може скачати собі кожен для локального використання, збагачуючи лише виробників електроніки й електрики й не платячи нічого ШІ-гігантам. Які вже вклалися в розробку моделей і хочуть повернути собі кошти.
Слід очікувати, що під гаслами «безпеки» галузь буде суттєво зарегульована. Вільне розповсюдження ваг, можливо, опиниться під забороною (атака на HuggingFace, але тепер по-справжньому, з усією потужністю урядової машини). Розробка моделей навряд чи припиниться, але стане більш схожою на розробку ракет чи зброї — регулюючі органи на кожному кроці, майже повна неможливість цим займатись для простих смертних. Отримувачами вигоди від подібних «заходів безпеки», зрозуміло, будуть великі компанії, що вже закріпились у цій галузі й нікуди з неї не підуть.