AI Runner 是我編寫的一個程序,它允許您在自己的硬體上本地離線運行 LLM 和穩定擴散藝術模型。我針對低階顯示卡對此進行了優化(在 2080s RTX 和 3060 RTX 上測試)。它已經開發了大約兩年,是免費的,純 python 並在 GPL3 下發布。
最新版本 3.0 已經開發好幾個月了。它是應用程式的完整重構,即將準備就緒,並將成為第一個非 alpha 版本。
AI Runner 是使用 Pyside6 和 Huggingface 程式庫建立的。為了提供更高的安全性和隱私性,我發布了幾個沙盒光碟、網路和日誌操作的庫,每個庫都沒有第三方依賴項。
以前的版本是使用 pyinstaller 編寫的,並在 itch.io 上發布,但今後我的目標是 Linux 上的 Flatpak 或 Snap(我現在已經放棄了 Windows 支援)。
如果您喜歡我的工作,可以在 Patreon 上支持我 - 我這樣做是免費的,非常感謝任何支持。
以上是AI Runner v.ev18的詳細內容。更多資訊請關注PHP中文網其他相關文章!