推理

The year of “reasoning”

• OpenAI 于 2024 年 9 月发布了 o1，开启了“推理” 又称基于可验证奖励的强化学习（RLVR）的革命。
• 推理几乎成为所有其他主要人工智能实验室模型的标志性特征。
• 推理能力的真正突破在于驱动工具，能够使用工具的推理模型可以规划、分析、更新计划，从而更好的实现预期目标。
• 推理模型在代码生成和调试方面也表现出色。推理技巧意味着它们可以从错误入手，逐步深入代码库的多个不同层级，最终找到根本原因。

Agent

The year of agents

背景

实例状态、服务状态、Spring MVC 接口等相关监控打点看板基本都由架构、运维实现

但业务中会存在和业务数据更密切的监控需求，一般也使用 Prometheus 或类似的数据库来实现

对于 Prometheus 的函数选择存在一些疑问，所以写了这边文档，着重关注 rate 和 irate 的实现原理和实践方法，可以解释以下问题

• 为什么一个 QPS 看板缩小时间窗口后，某个点的 QPS 会上升
• rate 和 irate 的区别和实现方式是什么；以及 increase 和 delta
• 时间窗口内数据 range-vector 和步长 step Interval 之间的关系
• 如何选择合适的函数
• 聚合函数和时间向量函数的区别

背景

升级 SpringBoot2，对于 starter 是否有不兼容的地方

升级指南

Spring Boot 2.0 Migration Guide · spring-projects/spring-boot Wiki

官方给出的迁移指南，这里选取一些常见的、可能存在影响的改动点陈列

混淆矩阵 Confusion Matrix

什么是混淆矩阵

混淆矩阵是通过将预测标签与真实标签进行比较来总结分类模型性能的表格，它显示了模型预测的真正例（TP）、真负例（TN）、假正例（FP）和假负例（FN）的数量

分类模型 Classification models

API 快速开始

涉及 Spring WebSocket 的主要 API

WebSocketHandler

第一步首先实现 WebSocketHandler ，或者直接继承 TextWebSocketHandler 或 BinaryWebSocketHandler

1
2
3
4
5
6
7
8

@Component
public class MyTextWebSocketHandler extends TextWebSocketHandler {

    @Override
    protected void handleTextMessage(WebSocketSession session, TextMessage message) throws Exception {
        // do something
    }
}

LangChain 生态入门

LangChain 生态下面都有哪些库和服务

• LangChain：开发由大型语言模型（LLM）应用程序的框架
  • langchain-core 基础抽象和 LCEL（LangChain Expression Language）
  • langchain-community 三方集成；例如 langchain-openai langchain-elasticsearch
  • langchain Chains  Agents  retrieval strategies
• LangGraph：使用 LLM 构建健壮且有状态的多参与者应用程序（multi actor），与 LangChain 平滑集成，但也可以在没有 LangChain 的情况下使用
• LangSmith：开发者平台，用于调试、测试、评估、监控 LLM 应用
• LangServer：部署 LangChain 的 chains 作为 REST API

LangChain