Στις 20 Οκτωβρίου 2026 η κινεζική DeepSeek άνοιξε τον κώδικα του DeepInfer, του εσωτερικού inference framework που τροφοδοτεί τις παραγωγικές υπηρεσίες της εταιρείας. Το project ανέβηκε στο GitHub με άδεια Apache 2.0 και μέσα σε λίγες ώρες είχε συγκεντρώσει χιλιάδες αστέρια, καθώς υποστηρίζει εκτέλεση τόσο σε GPU της Nvidia όσο και σε επεξεργαστές της Huawei -μια λεπτομέρεια που δεν διέφυγε της προσοχής της αγοράς.
Τι άνοιξε η DeepSeek
Το DeepInfer περιγράφεται στο repository ως «high-performance, large-scale inference framework για μοντέλα DeepSeek» και είναι χτισμένο κυρίως πάνω στο vLLM, με στοιχεία εμπνευσμένα από τα SGLang και TensorRT-LLM. Η έκδοση που δημοσιεύτηκε καλύπτει το μοντέλο DeepSeek-V4.1-Flash, με προεπιλεγμένο checkpoint το DeepSeek-V4.1-Flash-1017, και περιλαμβάνει βελτιστοποιημένους πυρήνες υπολογισμού, παραλληλισμό attention και context, MoE expert parallelism με EPLB, speculative decoding (DSpark), ασύγχρονο scheduling ενεργό εξ ορισμού και δομημένες εξόδους σε μορφή regex, JSON schema ή EBNF. Η DeepSeek διευκρινίζει πάντως ότι αυτή είναι η offline πλευρά της υποδομής της: λείπουν ακόμη ένα πλήρες σύστημα KV cache και ο πλήρης διαχωρισμός prefill/decode που χρησιμοποιεί εσωτερικά.
Nvidia και Huawei στο ίδιο framework
Το πιο ενδιαφέρον σημείο για τη βιομηχανία είναι η υποστήριξη υλικού: το DeepInfer τρέχει σε GPU Nvidia SM100 αλλά και σε επεξεργαστές Huawei Ascend 950, απαιτώντας CUDA 13 στην πρώτη περίπτωση και CANN 9.2 στη δεύτερη. Πρόκειται για μια πρακτική επιβεβαίωση ότι η DeepSeek χτίζει την υποδομή της ώστε να λειτουργεί εξίσου σε αμερικανικά και σε κινεζικά τσιπ, σε μια περίοδο που οι περιορισμοί εξαγωγών έχουν κάνει την πρόσβαση σε Nvidia hardware πιο αβέβαιη για κινεζικές εταιρείες τεχνητής νοημοσύνης. Η ίδια η σελίδα του project δεν δίνει συγκεκριμένα νούμερα απόδοσης σε throughput ή latency, παρά μόνο γραφήματα Pareto για prefill και decode, μετρημένα σε διαμορφώσεις με 4 και 64 GPU SM100 αντίστοιχα. Οι βασικές απαιτήσεις για όποιον θέλει να το δοκιμάσει είναι Linux, GCC 13 ή νεότερο, Python 3.12, και είτε CUDA 13 είτε CANN 9.2, ανάλογα με το υλικό.
Γιατί το ανοίγει τώρα
Η κίνηση έρχεται λίγους μήνες μετά την κυκλοφορία του DeepSeek-V4, ενός μοντέλου 16 τρισεκατομμυρίων παραμέτρων που ανέδειξε εκ νέου την DeepSeek ως σημείο αναφοράς για όσους θέλουν να τρέξουν μεγάλα μοντέλα χωρίς να εξαρτώνται αποκλειστικά από κλειστές υποδομές. Ανοίγοντας το δικό της inference engine, η εταιρεία ουσιαστικά προσκαλεί προγραμματιστές και άλλες εταιρείες να χτίσουν πάνω στην ίδια βάση που χρησιμοποιεί η παραγωγική υπηρεσία της, κάτι που ενισχύει τη θέση του DeepInfer ως πιθανό «στάνταρ» αναφοράς για όσους αναπτύσσουν σε κινεζικά accelerators -παρόμοιο ρόλο με αυτόν που έχει παίξει το vLLM για το ευρύτερο οικοσύστημα ανοιχτών μοντέλων. Η ανταπόκριση της κοινότητας ήρθε άμεσα: μέσα σε λίγες μέρες το repository είχε ξεπεράσει τα 18.000 αστέρια στο GitHub και εκατοντάδες pull requests, δείγμα ότι το ενδιαφέρον για εναλλακτικές στο καθεστώς Nvidia-vLLM-TensorRT παραμένει μεγάλο.
Η οπτική του Pulse of Greece
Η είδηση ταιριάζει σε ένα ευρύτερο μοτίβο που βλέπουμε τους τελευταίους μήνες: κάθε μεγάλος παίκτης της AI, από τη Microsoft με το Maia μέχρι την DeepSeek με τη στρατηγική της γύρω από Huawei τσιπ, προσπαθεί να μειώσει την εξάρτησή του από ένα μόνο προμηθευτή hardware. Στην περίπτωση της DeepSeek, το ζήτημα δεν είναι απλώς τεχνικό αλλά και γεωπολιτικό: η πρόσβαση σε προηγμένα chips της Nvidia παραμένει αντικείμενο περιορισμών για κινεζικές εταιρείες, κι ένα framework που δουλεύει εξίσου καλά σε Ascend hardware είναι de facto ασφαλιστική δικλείδα. Αξίζει όμως μια δόση νηφαλιότητας: η ίδια η DeepSeek παραδέχεται ότι η δημόσια έκδοση είναι ημιτελής σε σχέση με όσα τρέχει εσωτερικά, δεν υπάρχουν ανεξάρτητα επιβεβαιωμένα νούμερα απόδοσης, και η πραγματική δοκιμασία θα είναι αν προγραμματιστές εκτός DeepSeek υιοθετήσουν το DeepInfer σε παραγωγικό περιβάλλον -ή αν παραμείνει κυρίως εργαλείο επίδειξης τεχνολογικής αυτονομίας.
