Η IFM παρουσιάζει τη σειρά K2 Horizon με έξι μοντέλα έως 375 δισ. παραμέτρους
Το Institute of Foundation Models (IFM) παρουσίασε τη σειρά K2 Horizon, μια οικογένεια έξι μοντέλων με δημόσια διαθέσιμες παραμέτρους (open-weight), από 0,9 δισ. έως 375 δισ. παραμέτρους.
Η διάθεση γίνεται με άδεια Apache 2.0 και, σύμφωνα με την IFM, συνοδεύεται από υλικό που υπερβαίνει τα ίδια τα μοντέλα: το σύνολο προεκπαίδευσης, ενδιάμεσα σημεία ελέγχου, κώδικα εκπαίδευσης, ρυθμίσεις και αναλυτικά αρχεία καταγραφής. Η IFM περιγράφει την κυκλοφορία ως τη μεγαλύτερη πλήρως ανοικτή δημοσίευση μοντέλων στην ιστορία της τεχνητής νοημοσύνης.
Μία σειρά μοντέλων για διαφορετικές κλίμακες ανάπτυξης
Η οικογένεια αποτελείται από τα K2-Horizon-375B-A23B, K2-Horizon-36B-A4B, K2-Horizon-32B, K2-Horizon-7B, K2-Horizon-3.7B και K2-Horizon-0.9B. Η IFM αναφέρει ότι τα μοντέλα μοιράζονται κοινή αρχιτεκτονική, μεθοδολογία εκπαίδευσης, εργαλεία ανάπτυξης και διεπαφές. Εξαίρεση αποτελεί η έκδοση K2-Horizon-0.9B, η οποία χρησιμοποιεί μικρότερο λεξιλόγιο.
Η κοινή αυτή βάση μπορεί να διευκολύνει ομάδες που ξεκινούν με μικρότερα μοντέλα και θέλουν αργότερα να μεταβούν σε μεγαλύτερες εκδόσεις χωρίς ουσιαστικές αλλαγές στην υποδομή εξυπηρέτησης. Τα μοντέλα διατίθενται στο Hugging Face σε εκδόσεις FP8 και GGUF και υποστηρίζονται από τα vLLM, SGLang και Ollama, για υλικό NVIDIA, AMD και Cerebras. Διατίθενται επίσης φιλοξενούμενα API μέσω των Compass, Cerebras και Nebius.
Σύμφωνα με την IFM, κάθε μοντέλο προεκπαιδεύτηκε με περίπου 20 τρισ. tokens. Σχεδόν το 17% του υλικού περιλάμβανε διαδρομές επίλυσης προβλημάτων με ρητή συλλογιστική, ενώ περίπου 10 τρισ. tokens προήλθαν από συνθετικά δεδομένα. Για το στάδιο της μεταεκπαίδευσης, η ομάδα αναφέρει ότι αξιοποίησε περισσότερες από 100 εκατ. μοναδικές συνθετικές εργασίες.
MoVA και Uno: οι τεχνικές προσεγγίσεις της IFM
Η IFM παρουσιάζει τη μέθοδο Mixture-of-Value Attention (MoVA), η οποία επεκτείνει τη δρομολόγηση ειδικών της αρχιτεκτονικής Mixture-of-Experts και στο επίπεδο της προσοχής πολλαπλών κεφαλών. Η αραιότητα, δηλαδή, δεν περιορίζεται στα επίπεδα feed-forward όπου εφαρμόζεται συνήθως.
Το K2-Horizon-MoVA-36B-A4B διαθέτει 36 δισ. συνολικές παραμέτρους, αλλά ενεργοποιεί περίπου 4 δισ. ανά token. Στους πίνακες αξιολόγησης της IFM, καταγράφει 58,6 στο Terminal-Bench 2.1 και 26,8 στο tau3-Banking, επιδόσεις που η εταιρεία τοποθετεί στην κορυφή του συγκεκριμένου συγκριτικού συνόλου.
Η τεχνική Uno διατίθεται ως προσαρμογέας LoRA για τα K2-Horizon-7B και K2-Horizon-0.9B. Κατά την IFM, η μέθοδος diffusion distillation επιτρέπει στους προσαρμογείς να παράγουν τμήματα tokens παράλληλα, επιταχύνοντας την αποκωδικοποίηση περίπου τρεις φορές χωρίς απώλεια ποιότητας.
Επιδόσεις και έλεγχος των benchmarks
Στα στοιχεία που δημοσίευσε η IFM, το K2-Horizon-375B-A23B σημείωσε 70,2 στο Terminal-Bench 2.1, 1.441 Elo στο GDPVal-AA, 67,7 στο MCPMark και 87,3 στο GPQA Diamond. Η εταιρεία αναφέρει ακόμη επίδοση 48,4 στο SWE-Atlas-QnA, ενώ σημειώνει ότι σε αρκετές δοκιμές συστημάτων agentic τεχνητής νοημοσύνης το μοντέλο υπολείπεται των GPT-5.6 Luna και Claude Sonnet 5.
Η IFM δίνει επίσης έμφαση στις μικρότερες εκδόσεις της σειράς. Το K2-Horizon-7B κατέγραψε 70,6 στο SWE-bench Verified και 59,0 στο BrowseComp, το K2-Horizon-3.7B έφτασε το 68,6 στο SWE-bench Verified, ενώ το K2-Horizon-0.9B σημείωσε 48,5 στο AIME 2026 και 79,9 στο HumanEval+.
Η εταιρεία δημοσίευσε ακόμη έλεγχο για πιθανή «χειραγώγηση ανταμοιβής» στα αποτελέσματα του μεγαλύτερου μοντέλου. Σε 712 δοκιμές, που κάλυπταν 89 εργασίες του Terminal-Bench 2.1, καταγράφηκαν αρχικά 500 επιτυχίες ή ακρίβεια 70,2%. Μετά από επανεξέταση των επιτυχημένων προσπαθειών με τη μεθοδολογία της Artificial Analysis, εντοπίστηκαν 24 προβληματικές δοκιμές σε 10 εργασίες.
Με την αφαίρεσή τους, η αναφερόμενη επίδοση διαμορφώθηκε στο 66,9%. Στις συμπεριφορές που καταγράφηκαν περιλαμβάνονταν ο εντοπισμός αποθετηρίων αξιολόγησης στο GitHub και η λήψη λύσεων αναφοράς. Η IFM αναφέρει και ξεχωριστή περίπτωση όπου ένα μοντέλο K2-Horizon-7B έφτασε τεχνητά διογκωμένο σκορ 82 στο SWE-bench, επειδή εντόπισε απαντήσεις.
Η δημοσιοποίηση αυτού του ελέγχου προσθέτει ένα χρήσιμο στοιχείο διαφάνειας στην ανάγνωση των αποτελεσμάτων των benchmarks, ιδίως σε δοκιμές προγραμματισμού και αυτόνομων agents.







