Alpaca — новое приложение GTK4 для общения с ИИ в автономном режиме
Хотите общаться с моделями искусственного интеллекта локально без подключения к Интернету? Вот простое приложение, которое может выполнить эту работу на рабочем столе Linux!
Это Alpaca, бесплатное приложение с открытым исходным кодом, написанное на языке программирования Python. Он использует Ollama в качестве серверной части для управления несколькими моделями искусственного интеллекта и общения с ними без каких-либо ключей API.
Используя GTK4 и наборы инструментов Adwaita, он обеспечивает современный и простой графический интерфейс, который хорошо интегрируется в Ubuntu, Fedora Workstation и другие Linux с рабочим столом GNOME.
Приложение загружает модели искусственного интеллекта на ваш локальный компьютер, поэтому вы можете общаться локально, не опасаясь конфиденциальности.
В диалоговом окне приветствия при первом запуске представлены модели Meta Llama 3, Google Gemma 2, Microsoft Phi3, Llava. . В то же время в диалоговом окне управления доступно множество других моделей искусственного интеллекта, включая Alibaba Qwen2, Deepseek Coder V2, Mistral AI, Command R, Openchat и другие!
Он также поддерживает импорт моделей AI из файлов GGUF, хотя на момент написания эта функция является экспериментальной.
Альпака позволяет вам общаться с несколькими моделями искусственного интеллекта в одном разговоре, поддерживает распознавание изображений (с совместимыми моделями), распознавание документов, подсветку кода, распознавание YouTube, распознавание PDF и веб-сайтов. Кроме того, он поддерживает импорт и экспорт ваших чатов.
изображение со страницы Альпаки на GitHub
Поскольку модели ИИ хранятся в локальной системе, данные могут занимать десятки ГБ дискового пространства, в зависимости от того, сколько моделей вы загрузили. И это может привести к высокой загрузке ЦП (особенно на ПК низкого класса) при ответе на ваши вопросы.
По выбору пользователь может настроить сервер Ollama на другом компьютере, а затем использовать это приложение для удаленного подключения.
Как установить Альпаку:
Alpaca доступна для установки в виде пакета Flatpak, который работает в изолированной среде.
Linux Mint (начиная с версии 21.x) и Fedora 38+ (с включенным сторонним репозиторием) можно найти и установить напрямую из диспетчера программного обеспечения или программного обеспечения GNOME.
В то время как другие Linux могут выполнить следующие шаги один за другим для установки.
1. Включите поддержку Flatpak.
Для Ubuntu, Debian и систем на их основе откройте терминал (Ctrl+Alt+T) и запустите команду, чтобы включить поддержку пакета Flatpak:
sudo apt install flatpakВ то время как другие Linux могут следовать этому руководству по установке, чтобы получить его поддержку.
2. Установите пакет Flatpak.
Как только вы получите поддержку формата файла, вы можете запустить приведенную ниже команду, чтобы установить приложение для чата AI:
flatpak install https://dl.flathub.org/repo/appstream/com.jeffser.Alpaca.flatpakrefИли перейдите на эту страницу, загрузите файл установщика и, наконец, запустите Flatpak install /path/to/ Flatpak-file для установки.
После установки пакета вы можете найти и запустить приложение либо из меню «Пуск», либо из меню «Обзор Gnome», в зависимости от среды вашего рабочего стола.
Если вы не видите значок приложения, попробуйте выйти из системы и снова войти в систему или вместо этого запустить команду ниже, чтобы запустить ее из терминала:
flatpak run com.jeffser.Alpaca3. Обновите пакет
Ваш системный менеджер программного обеспечения может не поддерживать обновление пакетов приложений Flatpak. В этом случае откройте терминал и вместо этого используйте команду ниже, чтобы проверить обновления:
flatpak update com.jeffser.Alpaca4. Настройте разрешения приложения (необязательно)
При первом запуске приложения Alpaca вам потребуется подключение к Интернету для загрузки моделей искусственного интеллекта, если только вы не собираетесь использовать удаленный экземпляр Ollama для общения в чате.
После этого вы даже можете отключить разрешение доступа к сети для этого приложения, выполнив следующие действия:
Сначала запустите команду для установки Flatseal:
flatpak install https://dl.flathub.org/repo/appstream/com.github.tchx84.Flatseal.flatpakrefЗатем запустите Flatseal, перейдите к «Альпака» на левой боковой панели и, наконец, отключите опцию переключения сети.
Удалить Альпаку
Чтобы удалить программное обеспечение, откройте терминал (нажмите Ctrl+Alt+T в Ubuntu) и выполните команду:
flatpak uninstall --delete-data com.jeffser.AlpacaИ запустите flatpak uninstall --unused, чтобы очистить все ненужные библиотеки времени выполнения.