Home 科學技術 Raspberry Pi 的新附加板具有 8GB RAM,可運行新一代 AI 模型

Raspberry Pi 的新附加板具有 8GB RAM,可運行新一代 AI 模型

117
0
Raspberry Pi 的新附加板具有 8GB RAM,可運行新一代 AI 模型

Raspberry Pi 正在發布一款新的附加板,可以在 Raspberry Pi 5 上本地運行生成式 AI 模型。 週四宣布$130 人工智能帽子+ 2 該模塊的升級版且更昂貴 去年推出現在提供具有 8GB RAM 和 40 TOPS AI 性能的 Hailo 10H 芯片。

連接後,Raspberry Pi 5 使用 AI HAT+ 2 處理 AI 相關的工作負載,同時讓主板的 ARM CPU 可以完成其他任務。與之前的 AI HAT+ 專注於基於圖像的 AI 處理不同,AI HAT+ 2 配備板載 RAM,可以運行一系列 Qwen 模型以及較小的一代 AI 模型,例如 Llama 3.2 和 DeepSeek-R1-Distill。您可以使用該設備訓練和微調 AI 模型。

一個 Raspberry Pi 分享的 Demo 展示如何使用附加板為 AI 模型提供支持,該模型能夠生成基於文本的攝像機流描述,並回答場景中是否有人的問題。另一個顯示你怎麼樣 文字可以翻譯 使用 Qwen2 將法語轉為英語。

然而,Tech YouTuber 由傑夫·吉爾林發現 在常用支持的型號中,具有 8GB RAM 的獨立 Raspberry Pi 5 擊敗了 AI HAT+ 2。 Geerling 將較低的性能與功耗聯繫起來,因為 Pi 5 的最大運行功率為 10 瓦,而 AI HAT+ 2 的運行功率限制為 3W。

雖然 AI HAT+ 2 非常適合某些用例,但附加板的額外 8GB RAM“不足以讓該 HAT 比購買具有更多 RAM 的更大 16GB Pi 更具優勢,後者更靈活且運行模型更快,”Geerling 指出。去年發布的 AI HAT+ 還可以進行 AI 圖像處理,起價更便宜,為 70 美元。

Raspberry Pi 表示,更多、“更大”的人工智能模型“已準備好更新,並且應該在發布後不久就可以安裝”。

來源連結