Phi-3-vision-128k-instruct技能(Skills)创建指南:打造自定义AI工作流

张开发
2026/4/12 7:55:44 15 分钟阅读

分享文章

Phi-3-vision-128k-instruct技能(Skills)创建指南:打造自定义AI工作流
Phi-3-vision-128k-instruct技能创建指南打造自定义AI工作流1. 开篇为什么需要自定义技能想象一下你每天都要处理大量重复性工作整理会议纪要、编写周报、检查代码质量。这些任务既耗时又容易出错。现在通过为Phi-3-vision-128k-instruct模型创建自定义技能你可以把这些工作交给AI自动完成。自定义技能就像给AI安装应用程序让它具备特定领域的专业能力。本文将手把手教你如何从零开始创建、部署和使用这些技能最终将它们变成可复用的API服务。2. 准备工作与环境搭建2.1 基础环境要求在开始之前确保你已准备好以下环境星图GPU平台账号推荐使用A10或A100实例Python 3.8或更高版本基本的Python编程知识访问Phi-3-vision-128k-instruct模型的权限2.2 快速安装必要工具打开终端运行以下命令安装所需库pip install transformers4.40.0 pip install fastapi0.109.0 pip install uvicorn0.27.0这些库将帮助我们构建技能处理逻辑和API接口。3. 创建你的第一个技能3.1 技能的基本结构每个技能都包含三个核心部分输入定义明确技能需要接收什么数据处理逻辑编写AI如何处理这些数据的代码输出定义指定技能返回结果的格式让我们以周报生成器为例创建一个简单但实用的技能。3.2 编写周报生成技能创建一个新文件weekly_report.py添加以下代码from transformers import AutoModelForCausalLM, AutoTokenizer # 加载预训练模型和分词器 model_name microsoft/Phi-3-vision-128k-instruct tokenizer AutoTokenizer.from_pretrained(model_name) model AutoModelForCausalLM.from_pretrained(model_name) def generate_weekly_report(weekly_tasks): 根据每周任务列表生成结构化周报 prompt f根据以下任务列表生成专业的工作周报 任务列表 {weekly_tasks} 周报格式要求 1. 本周工作概述3-5句话 2. 主要成果分点列出 3. 遇到的问题及解决方案 4. 下周计划 请用中文生成周报 inputs tokenizer(prompt, return_tensorspt, max_length1024, truncationTrue) outputs model.generate(**inputs, max_new_tokens500) return tokenizer.decode(outputs[0], skip_special_tokensTrue)这个技能接收一周的任务列表然后生成格式规范的周报。4. 测试和优化技能4.1 本地测试技能创建一个测试脚本test_skill.pyfrom weekly_report import generate_weekly_report # 示例任务列表 tasks - 完成用户认证模块开发 - 修复购物车页面加载缓慢的问题 - 与设计团队讨论新版UI方案 - 编写API文档 report generate_weekly_report(tasks) print(生成的周报\n, report)运行后会看到AI生成的完整周报。如果结果不理想可以调整提示词(prompt)的结构和内容。4.2 提升技能质量的技巧优化提示词在prompt中提供更详细的格式要求和示例控制输出长度通过max_new_tokens参数限制生成内容长度添加示例在prompt中包含1-2个理想输出的例子温度调节使用temperature0.7让生成内容更有创意但不失准确性5. 部署技能为API服务5.1 使用FastAPI创建Web服务创建api.py文件from fastapi import FastAPI from pydantic import BaseModel from weekly_report import generate_weekly_report app FastAPI() class TaskList(BaseModel): tasks: str app.post(/generate-report) async def create_report(task_list: TaskList): report generate_weekly_report(task_list.tasks) return {report: report}5.2 在星图GPU平台部署将代码打包为Docker镜像登录星图控制台选择创建服务上传镜像并配置资源建议4核CPU16GB内存设置自动扩缩容策略部署后获取API端点URL现在你的技能已经变成一个可通过HTTP请求调用的服务了。6. 进阶技能开发6.1 创建代码审查技能让我们开发一个更复杂的技能 - 自动代码审查def code_review(code_snippet): prompt f请对以下代码进行专业审查 代码 {code_snippet} 审查要求 1. 指出潜在的性能问题 2. 检查安全漏洞 3. 提出可读性改进建议 4. 用中文给出具体修改建议 审查报告 inputs tokenizer(prompt, return_tensorspt, max_length2048, truncationTrue) outputs model.generate(**inputs, max_new_tokens800) return tokenizer.decode(outputs[0], skip_special_tokensTrue)6.2 多技能组合你可以将多个技能组合成工作流。例如先让AI生成周报然后自动发送到Slackdef weekly_report_workflow(tasks): report generate_weekly_report(tasks) slack_message f本周工作报告\n{report} send_to_slack(slack_message) # 假设已实现Slack发送函数7. 总结与下一步通过本教程你已经学会了如何为Phi-3-vision-128k-instruct创建自定义技能。从简单的周报生成到复杂的代码审查这些技能可以显著提升工作效率。实际使用中你可能会遇到一些挑战比如提示词优化需要反复试验或者生成结果需要后处理。这些都是正常的过程。建议从小型技能开始逐步构建更复杂的解决方案。下一步你可以尝试创建更多实用技能如会议纪要生成、技术文档翻译等为技能添加记忆功能让它能基于历史数据生成内容开发一个技能市场与其他开发者分享你的创作记住最好的学习方式就是动手实践。现在就去创建你的第一个AI技能吧获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。

更多文章