RecodeX 重构消息,开发者成功在Scratch/TurboWarp中运行最小化的Llama2.c模型,通过编译C推理代码为Scratch块,实现每秒约0.1个令牌的生成,展示LLM在非传统环境中的趣味应用。
开发者成功在Scratch/TurboWarp中运行最小化的Llama2.c模型...
原始信息来源https://github.com/broyojo/llm_from_scratchgithub.com
查看原文 ↗RecodeX 重构消息,开发者成功在Scratch/TurboWarp中运行最小化的Llama2.c模型,通过编译C推理代码为Scratch块,实现每秒约0.1个令牌的生成,展示LLM在非传统环境中的趣味应用。