cn.hutool.ai.model.ollama

Class OllamaServiceImpl

java.lang.Object

cn.hutool.ai.core.BaseAIService

cn.hutool.ai.model.ollama.OllamaServiceImpl

All Implemented Interfaces:

AIService, OllamaService

public class OllamaServiceImpl
extends BaseAIService
implements OllamaService

Ollama服务，AI具体功能的实现

Since:

5.8.40

Author:

yangruoyu-yumeisoft

Field Summary

Fields inherited from class cn.hutool.ai.core.BaseAIService

config

Constructor Summary

Constructors

Constructor and Description
OllamaServiceImpl(AIConfig config) 构造函数

Method Summary

Modifier and Type	Method and Description
String	chat(List<Message> messages) 对话
void	chat(List<Message> messages, Consumer<String> callback) 对话-SSE流式输出
String	copyModel(String source, String destination) 复制模型
String	deleteModel(String modelName) 删除模型
String	embeddings(String prompt) 生成文本嵌入向量
String	generate(String prompt) 生成文本补全
void	generate(String prompt, Consumer<String> callback) 生成文本补全-SSE流式输出
String	generate(String prompt, String format) 生成文本补全（带选项）
void	generate(String prompt, String format, Consumer<String> callback) 生成文本补全（带选项）-SSE流式输出
String	listModels() 列出本地可用的模型
String	pullModel(String modelName) 拉取模型
String	showModel(String modelName) 显示模型信息

Methods inherited from class cn.hutool.ai.core.BaseAIService

sendFormData, sendGet, sendPost, sendPostStream

Methods inherited from class java.lang.Object

clone, equals, finalize, getClass, hashCode, notify, notifyAll, toString, wait, wait, wait

Methods inherited from interface cn.hutool.ai.model.ollama.OllamaService

chat, chat

Constructor Detail

OllamaServiceImpl

public OllamaServiceImpl(AIConfig config)

构造函数

Parameters:

config - AI配置

Method Detail

chat

public String chat(List<Message> messages)

Description copied from interface: AIService

对话

Specified by:

chat in interface AIService

Parameters:

messages - 由目前为止的对话组成的消息列表，可以设置role，content。详细参考官方文档

Returns:

AI回答

chat

public void chat(List<Message> messages,
                 Consumer<String> callback)

Description copied from interface: AIService

对话-SSE流式输出

Specified by:

chat in interface AIService

Parameters:

messages - 由目前为止的对话组成的消息列表，可以设置role，content。详细参考官方文档

callback - 流式数据回调函数

generate

public String generate(String prompt)

Description copied from interface: OllamaService

生成文本补全

Specified by:

generate in interface OllamaService

Parameters:

prompt - 输入提示

Returns:

AI回答

generate

public void generate(String prompt,
                     Consumer<String> callback)

Description copied from interface: OllamaService

生成文本补全-SSE流式输出

Specified by:

generate in interface OllamaService

Parameters:

prompt - 输入提示

callback - 流式数据回调函数

generate

public String generate(String prompt,
                       String format)

Description copied from interface: OllamaService

生成文本补全（带选项）

Specified by:

generate in interface OllamaService

Parameters:

prompt - 输入提示

format - 响应格式

Returns:

AI回答

generate

public void generate(String prompt,
                     String format,
                     Consumer<String> callback)

Description copied from interface: OllamaService

生成文本补全（带选项）-SSE流式输出

Specified by:

generate in interface OllamaService

Parameters:

prompt - 输入提示

format - 响应格式

callback - 流式数据回调函数

embeddings

public String embeddings(String prompt)

Description copied from interface: OllamaService

生成文本嵌入向量

Specified by:

embeddings in interface OllamaService

Parameters:

prompt - 输入文本

Returns:

嵌入向量结果

listModels

public String listModels()

Description copied from interface: OllamaService

列出本地可用的模型

Specified by:

listModels in interface OllamaService

Returns:

模型列表

showModel

public String showModel(String modelName)

Description copied from interface: OllamaService

显示模型信息

Specified by:

showModel in interface OllamaService

Parameters:

modelName - 模型名称

Returns:

模型信息

pullModel

public String pullModel(String modelName)

Description copied from interface: OllamaService

拉取模型

Specified by:

pullModel in interface OllamaService

Parameters:

modelName - 模型名称

Returns:

拉取结果

deleteModel

public String deleteModel(String modelName)

Description copied from interface: OllamaService

删除模型

Specified by:

deleteModel in interface OllamaService

Parameters:

modelName - 模型名称

Returns:

删除结果

copyModel

public String copyModel(String source,
                        String destination)

Description copied from interface: OllamaService

复制模型

Specified by:

copyModel in interface OllamaService

Parameters:

source - 源模型名称

destination - 目标模型名称

Returns:

复制结果