廾匸

GPT_API调用免费版免费的api-key https://github.com/chatanywhere/GPT_API_free 详情建议多看看文档 1234567891011121314151617181920# 测试代码from openai import OpenAIclient = OpenAI( # defaults to os.environ.get("OPENAI_API_KEY") api_key="your keys", base_url="https://api.chatanywhere.tech/v1" # base_url="https://api.chatanywhere.cn/v1")completion = client.chat.completions.create( model="gpt-3.5-turbo", messages=[ {"role":...

langchain(本文为个人学习笔记，内容较为基础，如有错误，欢迎指正。欲了解详细信息，请参考官方文档。)https://api.python.langchain.com/en/latest/langchain_api_reference.html LangChain的功能比较广泛，涵盖了多个方面，主要包括以下几个方面： 链式操作（Chains）：LangChain允许用户将多个语言模型调用组合成一个复杂的操作流程。例如，可以创建一个链式操作，其中第一个步骤是从用户获取输入，第二个步骤是处理和分析该输入，第三个步骤是生成相应的回复。 12345678910111213141516171819202122from dotenv import load_dotenv, find_dotenv# 加载apiload_dotenv(find_dotenv())from langchain_openai import ChatOpenAIfrom langchain_core.prompts import ChatPromptTemplatefrom...

LINK 提示词工程 prompt engineering什么是提示词工程：我们在使用AI时，必须提出具体要求，AI才知道如何去完成。但是我们下达的指令并不会直接进入AI模型，prompt engineering会对我们的输入进行处理转换成promprt，再输入到模型。这里的prompt可以理解一个把我们的指令进行复杂化的过程。(即赋予我们的指令更多的信息)prompt engineering帮助用户将大语言模型（Large Language Model, LLM）用于各场景和研究领域。研究人员可利用提示工程来提升大语言模型处理复杂任务场景的能力，如问答和算术推理能力。开发人员可通过提示工程设计、研发强大的工程技术，实现和大语言模型或其他生态工具的高效接轨。 大模型参数设置 Temperature： 参数值越小，输出越确定，反之则越随机。 Top_p： 参数值越大，输出越随机，反之则越确定。 Max length: 输出文本最大长度。 stop sequence: 输出文本结束符。 Frequency penalty: 输出文本中重复词的惩罚系数。 Presence...

大模型学习之路持续更新中… 大模型简单讲就是参数量巨大的神经网络模型 1. 基础知识1.1NLP基础知识 RNN(循环神经网络) 对于语言来说顺序是十分重要的，顺序提供了一定的信息，”我爱你”和”你爱我”，就是两个不同的情况。RNN一个重视序列信息的网络，序列即前后关系。 HIDDEN STATE(隐状态)：保存信息 缺点：数据输入时间越早，在隐状态中占据的影响就越小。 应用场景：机器翻译｜图生文｜语音识别｜量化交易模型 seq2seq 受限于网络结构，RNN只实现N to N(机器翻译任务，一个词翻译一个词)或者1 to N，N to 1，不能解决N to...

OpenCV-图像的基础操作图像的读取、显示与保存 图片的读取与显示12345678910import cv2img = cv2.imread('img_path')cv2.imshow('windowname',img)cv2.waitkey(0) # 让窗口持续显示 不会一闪而过import matplotlib.pyplot as plt# 因为我用的vscode，更好的图片显示方式是pltplt.imshow(img) 使用PIL读取图片12345from PIL import Imageimage = Image.open(image_path)image.show() PIL打开的通道顺序是RGB opencv打开图片的通道顺序是BGR shape: opencv(820,818,3) PIL(670760,3) 图片的保存 cv2.imwrite(‘img_name.jpg’,img) 视频的读取与显示123456789import cv2cap =...

模型优化(性能)https://pytorch.org/tutorials/beginner/profiler.html剪枝和蒸馏不可控，实际生产中一般使用量化。部署时需要根据设备，考虑模型大小与模型计算量 剪枝连接变稀疏了，计算量减少，直接使网络中的部分神经元失活(将参数置为0，不再参与运算可以加速模型的计算)，但依赖于特定算法库或硬件平台的支持。模型深层拿到的是语义特征，模型浅层拿到的是边缘特征。 结构化剪枝破坏掉原有模型的结构1prune.random_structured(conv, name='weight', amount=0.5, dim=0) 非结构化剪枝不改变原有模型的结构(层数)，改变的是每一层卷积核的个数代码：https://pytorch.org/tutorials/intermediate/pruning_tutorial.html 12345import torch.nn.utils.prune as pruneconv = model.conv1prune.random_unstructured(conv,...

相对路径与绝对路径相对路径是相对于当前路径而言的，而绝对路径是相对于根目录而言的。 / 表示根目录./ 表示当前路径../ 表示上一级路径../../ 表示上两级路径 vscode中python自定义包的模块如何导入其他子包模块https://yxchangingself.xyz/posts/python-the-module-of-parentpkg-import-the-module-of-childpkg/ 解决方法： 在当前目录下创建一个__init__.py文件 将子包路径添加到系统路径中 123456# parent.__init__.pyimport sysimport...

模型打包目前自己所用的框架为pytorch(python版本的torch)，需要打包好训练好的AI模型(网络结构+网络参数)，放到其他设备上运行。 LibTorch也是一个部署时候用的推理框架 c++/java 版本 TorchScript：torch自己的打包工具 torch保存模型的方式：1 只保存模型参数(权重文件)12345678910111213# torch.save(model.state_dict(), 'model.pth')import torchfrom torchvision.models import resnet18model = resnet18()torch.save(model.state_dict(), 'model.pth') # 只保存权重###import torchimport torchvision.models as modelsnet =...

目标检测参考：https://www.cnblogs.com/yege/p/17355384.html#2One_Stage_50https://blog.csdn.net/weixin_43981621/article/details/120127926罗会兰, 陈鸿坤. 基于深度学习的目标检测研究综述[J]. 电子学报, 2020, 48(6): 1230-1239. https://doi.org/10.3969/j.issn.0372-2112.2020.06.026 基础概念目标检测(object detection)：找出图像中所有感兴趣的目标，确定他们的类别和位置。 分类从检测内容上可分为： 单目标侦测 对单张图片进行分类 单类别多目标侦测 检测多个同类目标，主要需要输出目标位置信息 多类别多目标侦测 检测多个异类目标，需要输出目标类型及目标位置信息 从算法类型上可分为： two stage 基于候选区域 先找预选框 region proposal（简称RP，一个有可能包含待检物体的预选框），再通过卷积神经网络进行样本分类。 任务流程：特征提取...

...