Нейросеть можно запустить прямо на телефоне. Без интернета, без подписок, и твои данные никуда не улетают. Когда это лучше ChatGPT, а когда нет.
Представь: тебе нужно сделать что-то конкретное, что проще всего поручить нейросети. Проанализировать текст, вытянуть данные из фотографии, разобраться с графиком. А ты там, где плохая связь или вообще нет интернета. Или ещё хуже — у тебя нет подписки ни на ChatGPT, ни на Claude.
Что делать? Открыть нейросеть, которая живёт прямо у тебя на телефоне.
Зачем ставить нейросеть себе, если есть ChatGPT?
Нейросетку можно поставить не только на компьютер, но и на огромное число современных мобильников. Открываешь приложение, внутри которого уже есть модель, просишь выполнить команду — и она делает. Без интернетов, без подписок, без каких-либо денег. Круто? Я думаю, что да.
И второе — данные. Когда ты пишешь в ChatGPT, твои данные уходят на его сервера. По дороге они шифруются, это логично и правильно, перехватить их почти нереально. Но на сервере они всё равно хранятся. И по умолчанию на твоих чатах ещё и учат модели, если не выключить это в настройках.
А с локальной моделью данные остаются только у тебя на телефоне или компьютере. Всё, они никуда не уходят. Можешь проверить: выключи интернет, запусти локальную модель — она выполнит всё, что ты скажешь.
Она же тупее?
Очевидно, что да. На мощном компьютере с кучей оперативки и видеопамяти можно запустить модель поумнее, но и она будет уступать про-моделям ChatGPT или Claude. А на телефоне мощную модель ты не запустишь.
Но для анализа данных её хватает с головой. Для распознавания картинок хватает. Для работы с текстом — тоже. Даже просто поговорить с ней можно. Единственное — данные у неё могут быть устаревшими. Но если тебе нужно что-то свежее, можно просто дать ей свои файлы, и она будет отвечать по ним.
Лучше всего такие модели использовать для рутинных задач. Вместо того чтобы писать какие-то сложные алгоритмы.
Например, в своём приложении Tenot я так и сделал. Включаешь голосовую запись, надиктовываешь заметку — и локальная модель сама превращает это в текст и расставляет все знаки препинания. Тебе ничего делать не надо.
Ещё я веду дневник ухода за кожей и фотографирую её каждый день: нужно отслеживать, есть ли воспаления, шелушения. Просто прикрепляю фото, нажимаю один раз — модель всё анализирует и записывает по пунктам, что видит на коже. А потом я могу экспортировать весь дневник и отдать большой модели по подписке, чтобы она проанализировала, что происходило, и дала заключение.
Какой телефон или компьютер нужен?
Для телефона — хотя бы 6 ГБ оперативной памяти, а лучше от 8. И желательно, но не обязательно, чтобы был отдельный процессор для нейросетей. Он есть и в айфонах, и в Android-флагманах. По моим ощущениям, айфон тут быстрее. Но переплачивать ради этого не стоит: нравится Android — бери Android, всё равно будет работать достаточно быстро.
В любом случае это компромисс. Модели становятся умнее, когда могут загрузить в себя больше параметров. А для этого нужно больше оперативной памяти или видеопамяти. Так что железо — чем новее и чем больше, тем лучше.
Просто так локальную модель не установишь. Модель — это один большой файл, и чтобы её запустить, нужна специальная программа. Такие программы сами показывают, потянет твой телефон или компьютер конкретную модель или нет. Tenot тоже сам скажет, подходит твой телефон или нет, когда попробуешь включить ИИ-функцию.
Так ставить или нет?
Я, например, поставил себе программу, где можно общаться с разными моделями в чате. По сути, как ChatGPT, только локально. Можно закинуть фотографию, чтобы она распознала что-то конкретное. Проанализировать данные. Написать код, если надо. Или поздравление другу.
Так что:
- Рутина — разобрать текст, фото, данные — локальной модели хватит с головой.
- Нет интернета или подписки — она выручит.
- Не хочешь, чтобы твои данные куда-то улетали — только локально.
- Сложная задача — иди в ChatGPT или Claude. Локальная модель глупее, и не чуть-чуть, а прям конкретно.