大语言模型推理速度优化之模型量化

本文记录了@Transcational注解在哪些情况下会失效，以避免大家重复踩坑。

@Transcational注解为什么没有生效？

最近很多人都开始使用Cursor辅助开发，我自己也尝试了下，发现确实好用，有了解放生产力的感觉，可以快速验证自己的想法，因此想写文记录一下，等三个月或者半年后再来看看这篇文章，对比下AI领域或者AI编程领域的发展。我这次开发的微信小程序叫“瞅瞅今天吃什么”，大家有兴趣的可以去微信搜搜看看。

使用Cursor快速开发微信小程序

2024年度总结

印象里，我们一直认为ThreadLocal类由于是线程独享的，那么它存储的变量数据一定是线程安全的。ThreadLocal类本身的数据是线程安全的，那么它的衍生类InheritedThreadLocal和TransmittableThreadLocal还是线程安全的吗？

ThreadLocal里的变量一定是线程独享的吗？

这篇文章主要介绍了微软开源的GraphRAG的数据构建原理和查询检索原理

微软GraphRAG原理介绍（附带部分源码）

这篇文章主要介绍了微软开源的GraphRAG的安装教程，并以《太白金星有点烦》为例，动手实操测试了下GraphRAG的实际效果。

动手实操微软开源的GraphRAG

vivo一站式AI智能体构建平台的演进实践

看互联网大厂如何落地AI-Agent（3）

本文介绍了华为云在AI-Agent上的最近落地进展

看互联网大厂如何落地AI-Agent（2）

本文介绍了蚂蚁集团在AI-Agent领域的最近落地进展

看互联网大厂如何落地AI-Agent（1）

跟着吴恩达学AI多智能体-多智能体协作

跟着吴恩达学AI多智能体-12/17-回顾任务模块

跟着吴恩达学AI多智能体-11/17-自动化事件策划

跟着吴恩达学AI多智能体-10/17-定义良好的任务的关键要素

跟着吴恩达学AI多智能体-9/17-工具开发总结

跟着吴恩达学AI多智能体-8/17-客户外展活动的工具

跟着吴恩达学AI多智能体-7/17-智能体工具的关键因素

使用Java也能开发大模型应用？让我们一探究竟

跟着吴恩达学AI多智能体-6/17-创建智能体的思维框架

跟着吴恩达学AI多智能体-5/17-多智能体消费者支持系统

跟着吴恩达学AI多智能体-4/17-AI智能体的关键要素

跟着吴恩达学AI多智能体-3/17-创建多AI智能体

跟着吴恩达学AI多智能体-2/17-AI智能体

跟着吴恩达学AI多智能体-1/17-课程总览

大模型API收费标准

由于混合内容（mixed content）请求限制，浏览器在HTTPS环境下，无法再发起HTTP请求，但是是所有的HTTP请求都不被允许吗？

[冷知识]浏览器在HTTPS环境下，并不是屏蔽了所有HTTP连接

当使用PlayWright的viewportSize参数控制页面大小异常时，我们可以使用--start-maximized  参数加上viewportSize=null的方法来实现页面最大化的效果。

PlayWright设置页面大小异常

AutoGPT是23年3月份推出的，距今已经1年多的时间了。刚推出时，我们还只能通过命令行使用AutoGPT的能力，但现在，我们不仅可以基于AutoGPT创建自己的Agent，我们还可以通过Web页面与我们创建的Agent进行聊天。这次的AutoGPT讨论可以分为两篇，第一篇，也就是现在这篇，主要是介绍Web版AutoGPT的安装教程（官方教程写的不太详细）；第二篇，会介绍一下当前AutoGPT的技术架构，以及部分代码解读。

时隔一年，再次讨论下AutoGPT-安装篇

记录Linux服务器上的防火墙相关操作

Linux查看防火墙是否开启，以及放开指定端口

在部署python服务时报错，提示打不开共享对象文件

【解决方法】libGL.so.1: cannot open shared object file: No such file or directory

本文主要介绍了一些RAG技术，涉及到常见的问题以及解决方案、业界实践以及最新进展等，后续出现新的RAG技术时，也会即时更新此文

RAG近期发展综述

该文章主要记录了一些WebSocket的基础特性，以及简单的Java使用样例。

WebSocket通信协议

2023年度总结&&2024年度规划

本文主要讲述了对RAG领域中常见的embedding模型进行简单微调的方法。

基于llama-index对embedding模型进行微调

在Java开发中，经常遇到对异常的处理。一般情况下，大部分同学都会try-catch后记录到异常日志，这种处理方式真的是正确的吗？

Java中的异常处理

红米K70标准版续航真实体验，个人体验，非专业测评。

红米K70标准版续航真实体验

2023最新版，在MacOS上安装openCV，且支持Java调用

在macOS上安装openCV用于Java调用（以4.7.0版本为例）

ThreadLocal内容详解

上学的时候学习过UML类图，此次工作中需要，再次学习记录下，好记性不如烂笔头。

UML类图再学习

Python服务一访问就崩溃问题（非全部机器）

本文主要讲述了排查在JDK7版本下Java-Agent参数不生效的问题

Java-Agent失效问题

23年国庆期间的一些关于AIGC学习总结

国庆AIGC小结

Milvus向量数据库常见用法

langchain简版教程附案例

HTTP2.0协议学习

解决实际项目中stalled时间过久的问题

ClickHouse架构概述

2022年度总结与2023未来规划

Spring Boot项目读取不到配置文件中的“url“属性

记一次服务部署失败问题排查

利用K-均值聚类算法对未标注数据分组

记一次因MySQL编码问题导致的慢查询排查

记一次让自己排查好久的小bug

删除文件夹下的指定格式的文件（Java实现）

Generic Array Creation，泛型数组创建时提示出错

将springboot项目升级到HTTP2

SKNet解读

计算机图形学中介绍的计算图像曲率的方法以及代码实现

python计算图像的曲率

视觉模型训练过程中需要用到的数据增强方法

数据增强——在图片中添加遮挡物

ubuntu多用户管理(添加、删除用户，给用户配置权限)

知行合一

技术分享

心情随笔

学习笔记

踩坑记录

建站教程

菜单slug留空或填#即可，用于下面的子菜单

往期整理

关于我

AIGC-RoadMap

Dev-RoadMap

个人开源工具

友链

大语言模型

AIGC应用开发

工具

踩坑

Java开发

password

icon

date

type

slug

status

title

summary

Table

可用链接/example-3访问，不会在菜单栏显示

luxinfeng