我正在尝试让 LLAMA 在 Windows XP 上运行,在使用 MinGW 8.1.0 时遇到了不少问题,决定添加一个补丁来修复它。
已解决问题摘要:
- 由于
add_link_options
和不可用,因此升级到 CMake 3.13target_link_libraries
。 - CMake 3.13 原样不适用于该项目,因为它需要为档案、标题等明确定义目标。这会添加明确的目标。
- Windows 8 代码未受保护,除非设置 WINVER 保护,否则无法编译。此补丁修复了此问题。
- 为 std::thread std::mutex 等添加 MinGW/compat,以便它实际上可以在 MinGW 8.1.0 w64 上运行。
再次强调,此 PR 是在 XP 上完全构建和运行此程序所需的最低要求。后续 PR 中将提供更多功能。
工作进度截图:StarCoder 1B 在禁用 mmap 的情况下工作:
通过查看这些屏幕截图可以得知,速度大致为<10个令牌/分钟。