gemma.cpp गूगल द्वारा विकसित एक हल्का और स्वतंत्र C++ अनुमान इंजन है जो Gemma मॉडल के लिए है। यह Gemma 2B और 7B मॉडल के लिए एक सरल और सीधा कार्यान्वयन प्रदान करने पर केंद्रित है, जिसका उद्देश्य अनुसंधान और प्रयोगात्मक उपयोग मामलों का समर्थन करना, अन्य परियोजनाओं में आसानी से एम्बेड करना और उच्च स्तर की संशोधन क्षमता प्रदान करना है। gemma.cpp Google Highway लाइब्रेरी का उपयोग करता है, जिससे CPU अनुमान प्रदर्शन को अनुकूलित किया जाता है।