Release v5.23.0
Release v5.23.0 adiciona o multimodal Inkling2 com MoE e um head de decisão experimental JEV que lê head.safetensors e judge_config.json.
- Inkling2 usa 48 camadas decoder mixture-of-experts, roteando tokens para 8 de 384 experts (594B total, 17B ativos) e codifica imagens com Perception Encoder ViT em embeddings por patch 40×40.
- JEV é um decision head linear que soft-caps logits, carrega head.safetensors e judge_config.json; é experimental — revise integridade dos arquivos de head e evite deploy em produção sem testes.
- #transformers
- #multimodal
- #moe
- #vision-transformer
- #decision-head
- #huggingface
