Είναι, σύμφωνα με την ίδια την εταιρεία, το πρώτο μοντέλο δημιουργίας εικόνας της κατηγορίας 4B που λειτουργεί απευθείας σε iPhone.
Τι σημαίνει αυτό στην πράξη
Το Bonsai Image 4B δημιουργεί εικόνα 512×512 pixels σε 9,4 δευτερόλεπτα σε iPhone 17 Pro Max και περίπου 6 δευτερόλεπτα σε Mac M4 Pro. Σε σύγκριση, το πλήρες FLUX.2 Klein 4B δεν χωρά καν στη μνήμη του iPhone 17 Pro Max. Σε Mac M4 Pro, η Bonsai έκδοση είναι έως 5,6 φορές πιο γρήγορη από το αντίστοιχο full-precision pipeline. Το συνολικό payload για deployment σε Apple Silicon φτάνει τα 3,42 GB για τη 1-bit και 3,88 GB για την Ternary παραλλαγή, έναντι 15,97 GB του πλήρους μοντέλου.
Αξιόπιστη απόδοση και σε benchmarks
Η συμπίεση δεν θυσιάζει την ποιότητα. Στα benchmarks GenEval, HPSv3 και DPG-Bench, η Ternary παραλλαγή διατηρεί το 95% της απόδοσης του πλήρους FLUX.2 Klein 4B, ενώ η 1-bit εκδοχή φτάνει το 88%. Και τα δύο μοντέλα ξεπερνούν κατά πολύ παλαιότερες λύσεις παρόμοιου μεγέθους, όπως το BK-SDM-Small (42%) και το Stable Diffusion 1.5 (51%). Το Bonsai Image 4B διατίθεται μεανοιχτού κώδικα με άδεια Apache 2.0, ενώ κυκλοφορεί παράλληλα και η εφαρμογή Bonsai Studio για iPhone.
Γιατί η τοπική εκτέλεση κάνει διαφορά
Η δημιουργία εικόνων στο cloud σημαίνει αναμονή, κόστος ανά αίτημα και ανησυχίες για το απόρρητο. Το Bonsai Image 4B αλλάζει αυτή τη δυναμική: μόλις το μοντέλο «χωράει» στη συσκευή, ο χρήστης μπορεί να πειραματιστεί, να επαναλάβει και να αναθεωρήσει προμπτς χωρίς να ξοδεύει χρόνο ή χρήμα σε κάθε αίτημα. Τα δεδομένα παραμένουν αποκλειστικά στη συσκευή, χωρίς αποστολή σε εξωτερικούς servers.
ΠΗΓΗ: techblog.gr
