feat(proto): AI response debug traces (used_memories, response_id, GetAIResponseTrace)
Co-authored-by: Cursor <cursoragent@cursor.com>
This commit is contained in:
parent
d3895e9a18
commit
37ed4e0a86
54
ai.proto
54
ai.proto
@ -15,6 +15,21 @@ message AIRequest {
|
||||
int64 telegram_user_id = 7; // Telegram user ID для применения пользовательских настроек (стиль ответа)
|
||||
int64 steam_user_id = 8; // SteamID64 отправителя для живых Steam-диалогов (l-ai-steam) - тот же "сигнал живого чата", что telegram_user_id, для второй платформы
|
||||
bool supports_deferred = 9; // Клиент умеет обрабатывать status=PENDING + GetAnswerJob (async тяжёлые тулзы). Старые клиенты не ставят — тяжёлые тулзы исполняются синхронно, как раньше.
|
||||
// Структурированные воспоминания, которые клиент уже вложил в text (для debug-trace).
|
||||
// Core сохраняет их as-is на ai_response_traces — не перезапрашивает memories-сервис.
|
||||
repeated UsedMemory used_memories = 10;
|
||||
}
|
||||
|
||||
// UsedMemory — снимок одного воспоминания, участвовавшего в генерации ответа.
|
||||
message UsedMemory {
|
||||
int64 id = 1; // ID в l-ai-memories (для будущего delete с debug-страницы)
|
||||
int64 user_id = 2;
|
||||
string username = 3;
|
||||
string key = 4;
|
||||
string value = 5;
|
||||
string category = 6;
|
||||
string priority = 7;
|
||||
string source_label = 8; // контекст от клиента, напр. "автор сообщения (@nick)"
|
||||
}
|
||||
|
||||
// AnswerGenerationOptions содержит дополнительные опции для генерации ответа
|
||||
@ -31,6 +46,7 @@ message AIResponse {
|
||||
AnswerStatus status = 5; // COMPLETE (или UNSPECIFIED для старых клиентов) — content финальный;
|
||||
// PENDING — запущена долгая job, content это interim, финал тянуть через GetAnswerJob(job_id)
|
||||
string job_id = 6; // Идентификатор отложенной job (только при status=PENDING)
|
||||
string response_id = 7; // UUID (hex) debug-trace; доступен уже при PENDING
|
||||
}
|
||||
|
||||
// AnswerStatus описывает, готов ли ответ синхронно или отложен в job.
|
||||
@ -70,6 +86,41 @@ message AnswerJobResponse {
|
||||
// возвращает synchronous RunAgent (реальные iterations/tool calls core, не
|
||||
// self-reported из ответа модели). Для legacy GenerateAnswer jobs не заполняется.
|
||||
AgentUsage agent_usage = 5;
|
||||
string response_id = 6; // тот же debug-trace id, что в AIResponse при PENDING
|
||||
}
|
||||
|
||||
// ToolCallTrace — один вызов тула во время GenerateAnswer (args + результат для модели).
|
||||
message ToolCallTrace {
|
||||
string call_id = 1;
|
||||
string name = 2;
|
||||
string arguments_json = 3;
|
||||
string result = 4;
|
||||
string error = 5;
|
||||
bool deferred = 6; // тяжёлый тул через l-evolver
|
||||
}
|
||||
|
||||
// GetAIResponseTraceRequest — запрос debug-снимка генерации по UUID.
|
||||
message GetAIResponseTraceRequest {
|
||||
string id = 1; // response_id (hex UUID без дефисов)
|
||||
}
|
||||
|
||||
// GetAIResponseTraceResponse — снимок того, что ушло в модель / вернулось.
|
||||
message GetAIResponseTraceResponse {
|
||||
string id = 1;
|
||||
string bot_username = 2;
|
||||
string model_name = 3;
|
||||
int64 telegram_user_id = 4;
|
||||
int64 global_user_id = 5;
|
||||
string system_prompt = 6;
|
||||
string user_prompt = 7;
|
||||
repeated UsedMemory memories = 8;
|
||||
repeated ToolCallTrace tool_calls = 9;
|
||||
string response = 10;
|
||||
string reasoning_content = 11;
|
||||
string error = 12;
|
||||
double duration_ms = 13;
|
||||
int64 created_at_unix = 14;
|
||||
bool found = 15; // false — нет такого id / истёк TTL
|
||||
}
|
||||
|
||||
// CreateSessionRequest для создания новой AI сессии
|
||||
@ -240,4 +291,7 @@ service AIService {
|
||||
// GetAnswerJob возвращает статус отложенной генерации ответа (когда GenerateAnswer
|
||||
// вернул status=PENDING). Клиент поллит его до DONE/FAILED и постит финал.
|
||||
rpc GetAnswerJob(GetAnswerJobRequest) returns (AnswerJobResponse);
|
||||
|
||||
// GetAIResponseTrace возвращает debug-снимок генерации (промпты, memories, tool calls).
|
||||
rpc GetAIResponseTrace(GetAIResponseTraceRequest) returns (GetAIResponseTraceResponse);
|
||||
}
|
||||
|
||||
@ -1,7 +1,7 @@
|
||||
// Code generated by protoc-gen-go-grpc. DO NOT EDIT.
|
||||
// versions:
|
||||
// - protoc-gen-go-grpc v1.6.1
|
||||
// - protoc v7.34.0
|
||||
// - protoc-gen-go-grpc v1.6.2
|
||||
// - protoc v7.36.0
|
||||
// source: ai.proto
|
||||
|
||||
package proto
|
||||
@ -19,14 +19,15 @@ import (
|
||||
const _ = grpc.SupportPackageIsVersion9
|
||||
|
||||
const (
|
||||
AIService_RunAgent_FullMethodName = "/ai.AIService/RunAgent"
|
||||
AIService_CancelAnswerJob_FullMethodName = "/ai.AIService/CancelAnswerJob"
|
||||
AIService_GenerateAnswer_FullMethodName = "/ai.AIService/GenerateAnswer"
|
||||
AIService_GenerateStateless_FullMethodName = "/ai.AIService/GenerateStateless"
|
||||
AIService_HealthCheck_FullMethodName = "/ai.AIService/HealthCheck"
|
||||
AIService_CreateSession_FullMethodName = "/ai.AIService/CreateSession"
|
||||
AIService_AskInSession_FullMethodName = "/ai.AIService/AskInSession"
|
||||
AIService_GetAnswerJob_FullMethodName = "/ai.AIService/GetAnswerJob"
|
||||
AIService_RunAgent_FullMethodName = "/ai.AIService/RunAgent"
|
||||
AIService_CancelAnswerJob_FullMethodName = "/ai.AIService/CancelAnswerJob"
|
||||
AIService_GenerateAnswer_FullMethodName = "/ai.AIService/GenerateAnswer"
|
||||
AIService_GenerateStateless_FullMethodName = "/ai.AIService/GenerateStateless"
|
||||
AIService_HealthCheck_FullMethodName = "/ai.AIService/HealthCheck"
|
||||
AIService_CreateSession_FullMethodName = "/ai.AIService/CreateSession"
|
||||
AIService_AskInSession_FullMethodName = "/ai.AIService/AskInSession"
|
||||
AIService_GetAnswerJob_FullMethodName = "/ai.AIService/GetAnswerJob"
|
||||
AIService_GetAIResponseTrace_FullMethodName = "/ai.AIService/GetAIResponseTrace"
|
||||
)
|
||||
|
||||
// AIServiceClient is the client API for AIService service.
|
||||
@ -53,6 +54,8 @@ type AIServiceClient interface {
|
||||
// GetAnswerJob возвращает статус отложенной генерации ответа (когда GenerateAnswer
|
||||
// вернул status=PENDING). Клиент поллит его до DONE/FAILED и постит финал.
|
||||
GetAnswerJob(ctx context.Context, in *GetAnswerJobRequest, opts ...grpc.CallOption) (*AnswerJobResponse, error)
|
||||
// GetAIResponseTrace возвращает debug-снимок генерации (промпты, memories, tool calls).
|
||||
GetAIResponseTrace(ctx context.Context, in *GetAIResponseTraceRequest, opts ...grpc.CallOption) (*GetAIResponseTraceResponse, error)
|
||||
}
|
||||
|
||||
type aIServiceClient struct {
|
||||
@ -143,6 +146,16 @@ func (c *aIServiceClient) GetAnswerJob(ctx context.Context, in *GetAnswerJobRequ
|
||||
return out, nil
|
||||
}
|
||||
|
||||
func (c *aIServiceClient) GetAIResponseTrace(ctx context.Context, in *GetAIResponseTraceRequest, opts ...grpc.CallOption) (*GetAIResponseTraceResponse, error) {
|
||||
cOpts := append([]grpc.CallOption{grpc.StaticMethod()}, opts...)
|
||||
out := new(GetAIResponseTraceResponse)
|
||||
err := c.cc.Invoke(ctx, AIService_GetAIResponseTrace_FullMethodName, in, out, cOpts...)
|
||||
if err != nil {
|
||||
return nil, err
|
||||
}
|
||||
return out, nil
|
||||
}
|
||||
|
||||
// AIServiceServer is the server API for AIService service.
|
||||
// All implementations must embed UnimplementedAIServiceServer
|
||||
// for forward compatibility.
|
||||
@ -167,6 +180,8 @@ type AIServiceServer interface {
|
||||
// GetAnswerJob возвращает статус отложенной генерации ответа (когда GenerateAnswer
|
||||
// вернул status=PENDING). Клиент поллит его до DONE/FAILED и постит финал.
|
||||
GetAnswerJob(context.Context, *GetAnswerJobRequest) (*AnswerJobResponse, error)
|
||||
// GetAIResponseTrace возвращает debug-снимок генерации (промпты, memories, tool calls).
|
||||
GetAIResponseTrace(context.Context, *GetAIResponseTraceRequest) (*GetAIResponseTraceResponse, error)
|
||||
mustEmbedUnimplementedAIServiceServer()
|
||||
}
|
||||
|
||||
@ -201,6 +216,9 @@ func (UnimplementedAIServiceServer) AskInSession(context.Context, *AskInSessionR
|
||||
func (UnimplementedAIServiceServer) GetAnswerJob(context.Context, *GetAnswerJobRequest) (*AnswerJobResponse, error) {
|
||||
return nil, status.Error(codes.Unimplemented, "method GetAnswerJob not implemented")
|
||||
}
|
||||
func (UnimplementedAIServiceServer) GetAIResponseTrace(context.Context, *GetAIResponseTraceRequest) (*GetAIResponseTraceResponse, error) {
|
||||
return nil, status.Error(codes.Unimplemented, "method GetAIResponseTrace not implemented")
|
||||
}
|
||||
func (UnimplementedAIServiceServer) mustEmbedUnimplementedAIServiceServer() {}
|
||||
func (UnimplementedAIServiceServer) testEmbeddedByValue() {}
|
||||
|
||||
@ -366,6 +384,24 @@ func _AIService_GetAnswerJob_Handler(srv interface{}, ctx context.Context, dec f
|
||||
return interceptor(ctx, in, info, handler)
|
||||
}
|
||||
|
||||
func _AIService_GetAIResponseTrace_Handler(srv interface{}, ctx context.Context, dec func(interface{}) error, interceptor grpc.UnaryServerInterceptor) (interface{}, error) {
|
||||
in := new(GetAIResponseTraceRequest)
|
||||
if err := dec(in); err != nil {
|
||||
return nil, err
|
||||
}
|
||||
if interceptor == nil {
|
||||
return srv.(AIServiceServer).GetAIResponseTrace(ctx, in)
|
||||
}
|
||||
info := &grpc.UnaryServerInfo{
|
||||
Server: srv,
|
||||
FullMethod: AIService_GetAIResponseTrace_FullMethodName,
|
||||
}
|
||||
handler := func(ctx context.Context, req interface{}) (interface{}, error) {
|
||||
return srv.(AIServiceServer).GetAIResponseTrace(ctx, req.(*GetAIResponseTraceRequest))
|
||||
}
|
||||
return interceptor(ctx, in, info, handler)
|
||||
}
|
||||
|
||||
// AIService_ServiceDesc is the grpc.ServiceDesc for AIService service.
|
||||
// It's only intended for direct use with grpc.RegisterService,
|
||||
// and not to be introspected or modified (even as a copy)
|
||||
@ -405,6 +441,10 @@ var AIService_ServiceDesc = grpc.ServiceDesc{
|
||||
MethodName: "GetAnswerJob",
|
||||
Handler: _AIService_GetAnswerJob_Handler,
|
||||
},
|
||||
{
|
||||
MethodName: "GetAIResponseTrace",
|
||||
Handler: _AIService_GetAIResponseTrace_Handler,
|
||||
},
|
||||
},
|
||||
Streams: []grpc.StreamDesc{},
|
||||
Metadata: "ai.proto",
|
||||
|
||||
Loading…
Reference in New Issue
Block a user