Ви не увійшли. Будь ласка, увійдіть або зареєструйтесь.
Ласкаво просимо вас на україномовний форум з програмування, веб-дизайну, SEO та всього пов'язаного з інтернетом та комп'ютерами.
Будемо вдячні, якщо ви поділитись посиланням на Replace.org.ua на інших ресурсах.
Для того щоб створювати теми та надсилати повідомлення вам потрібно Зареєструватись.
Український форум програмістів → Обговорення → Потрібно накінець створити український ШІ
Для відправлення відповіді ви повинні увійти або зареєструватися
Добре, але поки що я працюю над іншим проектом
Тримайте в курсі.
Абсолютно впевнений що 99% школярів які використовують ChatGPT роблять це для того щоб самим нічого не робити. Давайте за створення візьметеся ви. Через певний час галас довкола ChatGPT схлине і воно буде використовуватися для того щоб краще і дешевше засирати WWW і заробляти ще більше грошей на всякому SEO. Або для якихось подібних цілей. Сподіваюся на те що пошукові системи не переведуть все на цю фігню. Одноманітні картинки згенеровані цією фігнею які використовуються в якості ілюстрацій для новин і різноманітних публікацій це прям неймовірне космічне майбутнє з ШІ і зовсім не марна трата ресурсів.
свою нішу воно займе, переписати скрипт з пайтон на ts виходить так сяк, так й базові речі "вигадує" непогано.
Обговорення розвитку штучного інтелекту завжди викликає суперечки - одні бачать у ньому перспективи для освіти й бізнесу, інші хвилюються через вартість та вплив на економіку.
Для тих, хто хоче відстежувати практичні застосування ШІ у сфері аукціонів та колекціонування, є Perfectum Club. Там публікують календарі міжнародних торгів, аналітику та приклади інтеграції нових технологій в екосистемі Perfectum Club.
Це дозволяє зрозуміти, як саме штучний інтелект поступово входить у різні екосистеми й допомагає користувачам орієнтуватися на ринку.
Я не переходитиму за вашими синенькими словами з підкресленням, поки не розкажете, яка ви модель і на якому залізі можете працювати.
Перечитую цю тему — два роки по тому багато чого змінилося в багатьох питаннях, тогочасні погляди на перспективи ШІ (як автора теми, так і його критиків) виглядають дещо наївними.
Стартап, фінансування і т.д. — як і раніше, словосполучення «український стартап» є майже оксюмороном. Тобто, так, якщо вас узяло під крило велике державне цабе зі схемою відмивання крадених бюджетних грошів, то ваш стартап злетить, принаймні, у фінансовому плані, але нікому не буде потрібен як продукт. Здоровий глузд підказує, що про інвесторів слід забути.
Успішний український проект — це, як правило, не стартап з інвестиціями, а народний проект, розбудовуваний знизу, з мінімумом зовнішніх інвестицій. Файлозвалища, онлайн-бібліотеки, торент-трекери — всі вони успішно розвивалися, наповнювалися контентом, і лише пряме втручання держави ставило крапку на їх існуванні. Як би перенести цю стратегію на ШІ (якщо це можливо)? Легкі LLM у наш час достатньо легкі, щоб їх можна було ганяти навіть на слабкому залізі, і завантажити їх можна абсолютно безкоштовно — інша річ, вони менш функціональні, ближче до того, чим були топові ШІ кілька років тому. Донавчати на своїх даних — вимоги до заліза більші, але теж ніби нічого нереалістичного. Тобто, український файн-тюнінг — це те, що вже може стартувати без супер-пупер-інвестицій. Мені вже потрапляли до рук українські LLM на базі моделі Gemma3 — загалом враження непогане, але базова модель вже й без того цілком пристойно розмовляє українською, тому різниця не така помітна (от якби навчили так Qwen, особливо в легких модифікаціях...).
Але це поки що нішевий напрямок. Більшість досі думає, що для ШІ потрібен хмарний сервіс. Що ж, якщо так, то вам потрібен інвестор, якому треба мити гроші, і демпінгова маркетингова модель: запропонуйте безкоштовно (і, бажано, без реєстрації) більше, ніж пропонують провідні ШІ-сервіси. Так, найкрутіш моделі зараз закриті, але хмарний сервіс, що надає доступ до великих моделей з відкритим кодом, вже буде цілком життєздатним і функціональним. Плюс там різні варіації на тему кооперації між моделями, файн-тюнінгу і т.д. Але ключ до успіху — шара (на жаль, це не дуже себе окуповує фінансово, але реальний фінансовий успіх тут і непотрібен). Вільний доступ до API, збереження/відновлення розмов, необмежена робота з картинками тощо — і ось ваш сервіс уже виганяє провідні західні ШІ з їхніх ніш.
Щодо експертної системи, енциклопедії і т.п. Модель на чомусь навчається — їй згодовують зразки з певною мовою, певними концепціями, певною ідеологією. Тобто, можна зробити LLM з певним світоглядом, набором закладених у неї фактів — багато в чому це нагадує наповнення енциклопедії. Так, звичайно, будь-який просунутий ШІ-сервіс також уміє шукати в мережі, але вбудовані в модель факти, вочевидь, він видаватиме в першу чергу.
Що ще точно не спрацює, так це асоціація з державними структурами. Ви б хотіли, щоб ваш ШІ-чатик читали силовики, а потім прийшли по вас з офіційними скріншотами, коли вас кинула дівчина, ви напилися й наговорили штучному інтелекту всякого лайна про все, що тільки бачили? Або коли ви просто експериментували з можливостями цензури і де вони проходять? Ні? Та невже?! Тобто, спілкування з державним ШІ стає гіпервідповідальним, користувач почувається затиснутим, для розважального спілкування звертається до закордонних ШІ, а популярність національного ШІ в такому виконанні прямує до популярності Резерву-плюс та веб-сторінки податкової служби, тільки без механізму примусу.
Announcing MamayLM, an efficient state-of-the-art Ukrainian LLM
April 23, 2025
https://huggingface.co/blog/INSAIT-Institute/mamaylm
Можу протестувати 9B модель на своєму 16GB M1 Pro, скидайте запити якщо цікаво.
словосполучення «український стартап» є майже оксюмороном.
Grammarly, GitLab, Reface, Petcube, Preply - і це лише "топ 5". Чи рахується лише суто ТзОВ? Бо ці перелічені, звісно, юридично поза ненькою.
P.Y. написав:словосполучення «український стартап» є майже оксюмороном.
Grammarly, GitLab, Reface, Petcube, Preply - і це лише "топ 5". Чи рахується лише суто ТзОВ? Бо ці перелічені, звісно, юридично поза ненькою.
Лише з юридичною особою в Україні.
frz написав:P.Y. написав:словосполучення «український стартап» є майже оксюмороном.
Grammarly, GitLab, Reface, Petcube, Preply - і це лише "топ 5". Чи рахується лише суто ТзОВ? Бо ці перелічені, звісно, юридично поза ненькою.
Лише з юридичною особою в Україні.
Ajax Systems, MacPaw, Creatio, Readdle, Serpstat
Чи на сьогодні має сенс витрачати час та бюджет на розробку державної LLM? Нагадаю, що Київстар планує завершення робіт по держзамовленню на листопад 2026 року і для майбутньої системи на березневому голосуванні в Дія вже навіть обрали назву - Сяйво (Siaivo).
Коли проект лише запускали, то спершу планували використати Llama від Meta, але врешті обрали Gemma 3 від Google, яка себе добре зарекомендувала як база для інших українських LLM - MamayLM (на честь легендарного козака Мамая) і LapaLLM (на честь всесвітньовідомого київського професора Валентина Лапи, який заклав основи сучасного машинного навчання). Окрім платформи ці три LLM мають спільну концепцію доробок - українська в якості базової для токенізатору, претрейнінг вагів на корпусах українських текстів та додатковий файнтюнінг на чутливих темах типу "Чий Крим?".
Та на відміну від Київстару, у інших розробників українських LLM не було контракту з державою та бездонних бюджетів, а тому вони вже давно опублікували свої роботи на HuggingFace для усіх охочих. А також створили бенчмарки для порівняння якості роботи LLM з українською мовою, де на лідборді зараз дуже цікаві результати: https://lnkd.in/duaT8rdB
Очевидно, що в тестах на володіння українською мовою українські LLM на будуть на голову вищі за свою базову Gemma 3, а також за інші схожі опенсурси (окрім Qwen 3, яка несподівано займає перше місце по резюмуванню та є одним з лідерів у перекладах). Але перевага лишається лише якщо ігнорувати появу Gemma 4, яка без жодного додаткового навчання займає перші місця у всіх тестах, а особливо у ЗНО по шкільним предметам.
Якщо Київстар будуть свій довгобуд запускати на Gemma 3, то на кінець року отримаємо результат гірший за сьогоднішню "сиру" опенсорсну Gemma 4, і яким бізнеси будуть користуватись лише під загрозою штрафів за використання інших ШІ.
Якщо Київстар не захоче сидіти на старій моделі, то їм для нової MoE-архітектури треба створити новий токенайзер та проводити донавчання "з нуля". Але де гарантія, що восени не вийде проміжна більш потужна Gemma 4,5 чи взагалі щось абсолютно нове?
Може здатися, що головна проблема в тому, що це Київстар повільний і, не маючи власної команди науковців, місяцями робить те, що інші роблять за тижні.
Але, на мою думку, проблема скоріше у зникненні потреби! Чи потрібно взагалі створювати та підтримувати національні LLM, які будуть добре працювати на "державній" (і погано на інших), коли вже доступні універсальні опенсурсні Gemma і Qwen, які одразу і без донавчання показують експертне володіння одразу українською мовою і усіма мовами нацменшинств?
Чи на сьогодні має сенс витрачати час та бюджет на розробку державної LLM? Нагадаю, що Київстар планує завершення робіт по держзамовленню на листопад 2026 року і для майбутньої системи на березневому голосуванні в Дія вже навіть обрали назву - Сяйво (Siaivo).
Коли проект лише запускали, то спершу планували використати Llama від Meta, але врешті обрали Gemma 3 від Google, яка себе добре зарекомендувала як база для інших українських LLM - MamayLM (на честь легендарного козака Мамая) і LapaLLM (на честь всесвітньовідомого київського професора Валентина Лапи, який заклав основи сучасного машинного навчання). Окрім платформи ці три LLM мають спільну концепцію доробок - українська в якості базової для токенізатору, претрейнінг вагів на корпусах українських текстів та додатковий файнтюнінг на чутливих темах типу "Чий Крим?".
Та на відміну від Київстару, у інших розробників українських LLM не було контракту з державою та бездонних бюджетів, а тому вони вже давно опублікували свої роботи на HuggingFace для усіх охочих. А також створили бенчмарки для порівняння якості роботи LLM з українською мовою, де на лідборді зараз дуже цікаві результати: https://lnkd.in/duaT8rdB
Очевидно, що в тестах на володіння українською мовою українські LLM на будуть на голову вищі за свою базову Gemma 3, а також за інші схожі опенсурси (окрім Qwen 3, яка несподівано займає перше місце по резюмуванню та є одним з лідерів у перекладах). Але перевага лишається лише якщо ігнорувати появу Gemma 4, яка без жодного додаткового навчання займає перші місця у всіх тестах, а особливо у ЗНО по шкільним предметам.
Якщо Київстар будуть свій довгобуд запускати на Gemma 3, то на кінець року отримаємо результат гірший за сьогоднішню "сиру" опенсорсну Gemma 4, і яким бізнеси будуть користуватись лише під загрозою штрафів за використання інших ШІ.
Якщо Київстар не захоче сидіти на старій моделі, то їм для нової MoE-архітектури треба створити новий токенайзер та проводити донавчання "з нуля". Але де гарантія, що восени не вийде проміжна більш потужна Gemma 4,5 чи взагалі щось абсолютно нове?
Може здатися, що головна проблема в тому, що це Київстар повільний і, не маючи власної команди науковців, місяцями робить те, що інші роблять за тижні.
Але, на мою думку, проблема скоріше у зникненні потреби! Чи потрібно взагалі створювати та підтримувати національні LLM, які будуть добре працювати на "державній" (і погано на інших), коли вже доступні універсальні опенсурсні Gemma і Qwen, які одразу і без донавчання показують експертне володіння одразу українською мовою і усіма мовами нацменшинств?
LLM заради LLM
Gemma 4 в мовному плані дуже непогана, а от Qwen треба ще трохи поганяти по українському корпусу (хоча в Qwen 3.5 порівняно з 2.5 прогрес помітний). Я б сказав, робити «солов'їну LLM» на базі Gemma — справа дещо марна, за пів року-рік нова версія базової моделі обжене ваш файнтюн.
Хоча серед більш нішевих моделей простір для вдосконалення є. Той же Qwen у малорозмірних моделях говорить українською з помітним «акцентом», а коли ця модель ще й відволікається, наприклад, на задачу розпізнавання зображень, якість української може зовсім деградувати.
Announcing MamayLM, an efficient state-of-the-art Ukrainian LLM
April 23, 2025
https://huggingface.co/blog/INSAIT-Institute/mamaylmМожу протестувати 9B модель на своєму 16GB M1 Pro, скидайте запити якщо цікаво.
Тестував Mamay 4B. Суб'єктивно — Gemma як Gemma. Краща українська, ніж у Gemma 2, але суттєвої різниці з Gemma 4 не помітив.
LapaLLM — для 16 ГБ дещо важкувата, не літатиме, якість мови — може десь трохи краща, ніж Gemma 4, але важко сказати. Хоча суттєва перевага — краще розуміє український культурний контекст. З усіх LLM, які мені потрапили до рук, лише Lapa правильно відповіла на питання «яку форму має вареник?» (Mamay теж на ньому валиться).
Для чого інші LLM, коли є Gemma? Ну, наприклад, зображення вона аналізує гірше, ніж Qwen — дає гарний атмосферний опис правильною українською, але може пропустити важливі деталі.
Чи потрібно взагалі створювати та підтримувати національні LLM, які будуть добре працювати на "державній" (і погано на інших), коли вже доступні універсальні опенсурсні Gemma і Qwen, які одразу і без донавчання показують експертне володіння одразу українською мовою і усіма мовами нацменшинств?
У ніші малих моделей сенс є. Якщо універсальна модель максимально компактна, то українська й решта мов у ній (крім англійської та ще, можливо, кількох топових мов) будуть малопридатними для реального використання — для нормальної української потрібне донавчання.
З іншого боку, надкомпактна модель з гарною українською мовою — це незовсім те, з чим можна носитися як з писаною торбою й подавати як національну гордість. Хіба що вам вдасться запхнути її в кожну українську праску.
Для відправлення відповіді ви повинні увійти або зареєструватися
