Огляд Raspberry Pi AI HAT+ 2: розум і міць

Перший продукт Raspberry Pi у 2026 році — це оновлена версія AI HAT+ 2024 року. Нова модель, створена в черговій співпраці з Hailo, тепер використовує AI-чип Hailo 10H разом із 8 ГБ вбудованої оперативної пам’яті. Новий AI HAT+ 2 знімає навантаження, пов’язане з роботою ШІ, з Arm-процесора Raspberry Pi 5.

Враховуючи, що сам Raspberry Pi вже коштує значно дорожче за початкову вартість, його характеристики суттєво покращилися за ці роки.  Чи адекватне тут співвідношення ціни та якості? Є лише один спосіб це з’ясувати!

Коробка виконана в тому ж фірмовому стилі, що й більшість інших продуктів Raspberry Pi.

На перший погляд легко сплутати новинку з раніше випущеним Raspberry Pi AI HAT+, і навіть після відкриття коробки відмінності не одразу помітні — плати виглядають дуже схожими.

     

Новий AI HAT+ 2 потребує використання комплектного радіатора. Так, цей радіатор призначений саме для HAT, а не для Raspberry Pi 5. 

     

Сам Raspberry Pi 5 також потребує охолодження, і офіційні низькопрофільні кулери Raspberry Pi та Argon без проблем поміщаються під HAT. Комплектні пластикові стійки та подовжувач GPIO загалом справляються зі своїм завданням, однак з’єднання GPIO здається дещо надто вільним. Підключення GPIO з використанням роз’ємів типу DuPont також залишає відчуття недостатньої надійності.

Підключення плати до Raspberry Pi 5 є доволі простим.
Достатньо розблокувати з’єднання PCIe на Pi 5, вставити стрічковий кабель, зафіксувати його, а потім закріпити плату на стійках і підключити до GPIO.

Передбачено виріз для підключення офіційної камери Raspberry Pi та фірмового дисплея. Під’єднайте клавіатуру, мишу, HDMI, Ethernet і, насамкінець, живлення, після чого завантажтеся в середовище Raspberry Pi Desktop, не забувши увімкнути PCIe Gen 3 через «raspi-config». Для кінцевих користувачів програмний досвід буде спрощено перед офіційним релізом.

На яких моделях може працювати Raspberry Pi AI HAT+ 2 Hailo 10H?

Скориставшись наданими інструкціями з встановлення, запустили hailo-ollama, а потім перевірили доступні та сумісні моделі для Hailo 10H, який використовується в цьому комплекті.

У передрелізному програмному забезпеченні моделі завантажуються за допомогою hailo-ollama через спеціально сформовану команду curl. Просто змініть параметр «model» на одну з п’яти доступних моделей.

curl --silent http://localhost:8000/api/pull \
     -H 'Content-Type: application/json' \
     -d '{ "model": "qwen2:1.5b", "stream" : true }'

8 ГБ вбудованої оперативної пам’яті DDR4X означають, що більші моделі зазвичай працюватимуть краще, оскільки власна оперативна пам’ять Raspberry Pi не використовується. Тому моделі розміром до 8 ГБ мають завантажуватися без проблем навіть на Raspberry Pi 5 з обсягом ОЗП менше ніж 8 ГБ. Технічно це відкриває можливість створення дешевших AI-проєктів.

Тепер Raspberry Pi 5 (1 ГБ, 2 ГБ, 4 ГБ) стає цілком придатною AI-платформою, що усуває потребу купувати модель  з 8 ГБ або 16 ГБ ОЗП.

Порівняння Raspberry Pi AI HAT+ 2 з AI HAT+

Отже, навіщо потрібна нова плата? Причина полягає у великих мовних моделях (LLM) — це штучний інтелект, навчений на величезних обсягах текстових даних, який використовується для розуміння, обробки та формування відповідей людською мовою. AI HAT+ 2 головним чином орієнтований на LLM, тоді як попередній AI HAT+ призначений для проєктів ШІ на основі обробки зображень. Демонстраційний код AI HAT+ 2, наданий Raspberry Pi, значною мірою зосереджений на створенні власної локальної LLM з використанням qwen2:1.5b, але також можна застосовувати моделі DeepSeek або Qwen, дистильовані за допомогою DeepSeek.

Вбудовані 8 ГБ оперативної пам’яті та потужний чип для обробки ШІ знімають навантаження з процесора та оперативної пам’яті Raspberry Pi 5. Цю обчислювальну потужність також можна використовувати для обробки зображень. Якщо у вас немає оригінального AI HAT+, то наявність якісної обробки зображень і повноцінної платформи для LLM робить його ціну  більш виправданою.

Дві плати можуть виглядати схожими, але працюють вони по-різному. AI HAT+ був орієнтований на обробку ШІ на основі зображень, а 26 TOPS вбудованого чипа Hailo 8L (13 TOPS для дешевшої моделі Hailo8) за продуктивністю дуже схожі на AI HAT+ 2.

Використовуючи набір прикладів rpicam-hello протестували сумісність з AI HAT+ 2 і  ідентифікація об’єктів та визначення пози працювали як очікувалося. Хоча і немає метрик для показу різниці, продуктивність AI HAT+ 2 була плавною, і проблем із камерою не виникло.

Де виникали проблеми, вони здебільшого були програмними. Повідомлення "HailoRT not ready!" показує, що програмне забезпечення Hailo відстає від апаратної частини, що вже траплялося раніше. Hailo, Raspberry Pi та спільнота врешті-решт усунуть цей розрив, але ранні користувачі повинні бути обізнані про це.

Порівняння продуктивності AI HAT+ 2 та процесора Raspberry Pi 5

Оскільки ми не можемо безпосередньо протестувати AI HAT+ 2 та AI HAT+ між собою, нам доводиться порівнювати AI HAT+ 2 з процесором Arm у Raspberry Pi 5.

Для цього тесту ми використаємо мовну модель qwen2:1.5b і поставимо їй запитання з загальних знань, а також виконаємо конкретні завдання з програмування на Python.

Встановлення моделі qwen2:1.5b було виконано за допомогою ollama.