学习乐园

fastapi 教程

唠唠闲话 p.s. 这几篇博客我其实想找机会整理起来，按一定的逻辑重新梳理。但仔细一想，这上边花时间是要掂量的。 而且，我发现，我们做某个事情的动机，往往只在特定时候会很强烈，借助这个强烈的感觉会事半功倍。而当前也一样，就借着我们强烈的事情来推进吧。 言归正传，本篇我们要讲什么呢？ 动机：最近教学楼停电整修，服务器断电导致 boot 损坏，开机异常。尝试了重新安装 grub 以及 boot-repair 等方案，都没有效果。而且这些方案的实践调试通常也要花很多时间。那么，有没有简单粗暴的处理方式呢。 嗯，没错，提前备份。 本篇是作为亡羊补牢的教程。在 grub 无法修复，但系统盘还能读取的情况下。我们在新盘上重装系统，并把一些环境还原回来。本篇就是记录相关的信息的。 系统盘制作和重装系统可以参考 『服务器硬盘维护 | 学习笔记』 这一篇。 本篇主要内容： rsync 还原主要数据 重新挂载 home 目录，还原指定用户，并保持 pid 个人便好的一键设置。 另外，这篇不完全是教程性质，也因为实验室缘故，这里操作更多是特定于实验室的情况。写在博客上，更多是方便个人记录，如果同步到 ...

唠唠闲话 天工：tiangong.cn 概念很早就有，比如 23年就有了 AutoGPT，但只是概念性质。随着模型能力越来越强。发挥应用效果。 左侧，模型在做什么，右侧，具体细节。 包括当前模型自己规划的 TODO 进展，具体写入的代码等： 没能完成： minimax

概要 Ray 是一个开源的分布式计算框架，由加州大学伯克利分校 RISELab 开发。它的主要目标是让分布式计算变得简单和高效，特别适合 AI 和机器学习工作负载。 优点： 简单易用：使用 Python API，学习曲线平缓，只需要少量代码修改就能将本地代码转换为分布式执行，支持函数级别的并行化。 灵活性：支持多种计算模式：任务并行、角色并行、数据并行，可以处理有状态和无状态的计算，适配多种应用场景：机器学习、强化学习、模型服务等。 高性能：低延迟任务调度，高效的对象存储系统，良好的可扩展性。自动管理 CPU、GPU 等计算资源。 容错机制：任务失败自动重试，Actor 故障恢复。 核心概念： Task：通过 @ray.remote 装饰器将普通函数转换为分布式任务 Actor：支持有状态的并行计算 Object Store：分布式共享内存系统，用于数据共享 示例解析 分布式任务 将 func 函数转换为分布式任务，并通过 func.remote(args) 做未来的计算。 12345678910111213141516171819import ray# 初始化 Rayray. ...

深入理解 Python async for 的用法，从基础概念到实际应用，掌握异步迭代器的设计与实现

掌握 MDBook 的基本概念、安装步骤、配置方法，以及如何创建电子书和文档。

Rust 的基本概念、安装及配置方法，以及如何使用 Cargo 来简化项目管理。

一个可扩展、功能丰富且用户友好的自托管 WebUI，旨在完全离线操作。它支持各种 LLM 服务，包括 Ollama 和 OpenAI 兼容的 API。该项目在 GitHub 上已有 38k 星，是一个非常受欢迎的项目。

如何高效地进行系统重装以及数据备份，避免重复劳动和数据丢失。

使用 Predibase 在云端环境中，对大语言模型进行微调和推理。