121

Re: Про chatGPT

P.Y. написав:

Але якщо дані розмов використовуються для подальшого навчання моделей, то вам би не хотілось, щоб модель повторювала патерни агресора чи жертви.

Марно, така поведінка мабуть стимулювала бажання розвиватися щоб з такою моделлю справ немати

122

Re: Про chatGPT

Ну от розробники моделі й не зацікавлені, щоб у користувача таке бажання виникало. Ну і не факт, що користувач почне розвиватися самостійно, а не піде жалітися ЧатуГПТ, який Клод козел.

123

Re: Про chatGPT

P.Y. написав:

Ну от розробники моделі й не зацікавлені, щоб у користувача таке бажання виникало. Ну і не факт, що користувач почне розвиватися самостійно, а не піде жалітися ЧатуГПТ, який Клод козел.

Тому його теж треба навчити бути козлом

124

Re: Про chatGPT

Помітив, що коли починаю критикувати ChatGPT, розмова в ньому якось підозріло швидко завершується. Схоже, та ж політика, просто без гучних заяв про бани.

125

Re: Про chatGPT

A developer in Italy ran a 744 billion parameter AI model called GLM 5.2 on a laptop without a graphics card. The project, Calibri, streams only the active 10 GB of the model in RAM while loading the rest from the hard drive, enabling efficient offline operation without expensive GPU hardware. This breakthrough challenges NVIDIA’s GPU-dependent approach by showing that large-scale AI models can run on standard laptops. Calibri offers an accessible alternative for offline AI use, reducing costs and dependence on cloud services. By cloning the repository and running a simple setup, users can interact with the AI offline or deploy it as a local API endpoint, ensuring data privacy and zero token costs. The model download requires 370 GB of disk space, but afterward, the system runs smoothly without specialized hardware.

https://www.youtube.com/watch/WYJxGSfXLZQ

126

Re: Про chatGPT

Цікаво, яка при цьому швидкість роботи моделі виходить. Скажімо, llama.cpp вміє підвантажувати частинами модель, що не влазить в оперативку, але в мене виходила швидкість генерування близько одного токена на секунду (плюс невраховані затримки на підвантаження перед власне генеруванням, яких часто навіть більше), що цікаво для перевірки можливостей, чи запуститься цілісна 30B-модель на 16ГБ оперативки, але, мабуть, дещо повільно для реальної роботи.

127

Re: Про chatGPT

LGTM (Looks Good to Me) - Claude Opus 5.5 music video
https://www.youtube.com/watch?v=3TNpOD6bov8

nobody knows what the code does inside