스크립트 개발 / 커넥터 객체 `DFF.CONN` / LLM(OpenAI 호환)

LLM 커넥터 작업 객체는 커넥터에 구성된 OpenAI 호환 Chat Completions API를 통해 텍스트 대화를 시작하는 데 사용됩니다.

이 커넥터는 대상 서비스가 OpenAI Chat Completions API와 호환되어야 합니다

서비스마다 지원하는 모델과 요청 매개변수가 다를 수 있으며, 구체적인 내용은 대상 서비스 문서를 기준으로 합니다.

1. 커넥터 구성

LLM 커넥터를 만들 때 다음 필드를 구성해야 합니다.

필드	필수 / 기본값	설명
`Base URL`	필수 / `https://api.openai.com/v1`	OpenAI 호환 API의 기본 주소
`API Key`	필수	대상 서비스에 액세스하는 데 사용되는 API Key
`Model`	필수	기본적으로 사용되는 모델 ID로, 대상 서비스가 지원하는 Chat Completions 모델 ID여야 합니다

Base URL과 API Key를 입력한 후 Model 선택 상자를 펼치면 인터페이스가 대상 서비스의 /models 인터페이스를 통해 모델 목록을 로드하려고 시도합니다. 로드하지 못하면 대상 서비스가 지원하는 모델 ID를 수동으로 입력할 수 있습니다.

메시지는 대상 서비스로 전송되며 비용이 발생할 수 있습니다

커넥터가 가리키는 대상 서비스를 확인하고, 메시지에 API Key, 비밀번호 또는 관련 없는 민감한 데이터를 보내지 마세요.

2. 커넥터 작업 객체 가져오기

DFF.CONN(...) 매개변수는 다음과 같습니다.

매개변수	유형	필수 / 기본값	설명
`connector_id`	str	필수	커넥터 ID
`model`	str	`None`	커넥터 구성의 기본 모델 재정의
`timeout`	int/float	`60`	요청 타임아웃(초)

예시
llm = DFF.CONN('llm_connector_id')

# 현재 작업 객체에 대한 기본 모델과 요청 타임아웃을 재정의합니다
another_llm = DFF.CONN('llm_connector_id', model='another-model', timeout=30)

3. `.chat(...)`

OpenAI 호환 Chat Completions API를 호출하며, 메서드 시그니처는 다음과 같습니다.

Python
llm.chat(messages, model=None, **kwargs)

매개변수는 다음과 같습니다.

매개변수	유형	필수 / 기본값	설명
`messages`	str/list[dict]	필수	대화 메시지. 문자열을 전달하면 `user` 메시지 하나로 자동 변환되고, 메시지 목록을 전달하면 그대로 전송됩니다
`model`	str	`None`	이번 호출에서만 모델을 재정의합니다
`**kwargs`	임의	없음	기타 키워드 매개변수는 OpenAI Python SDK의 `client.chat.completions.create(...)`로 그대로 전달되며, 사용 가능 여부는 대상 서비스에 따라 다릅니다

이 메서드는 Chat Completions의 전체 응답을 dict로 변환한 후 반환합니다. 텍스트 응답은 일반적으로 choices[0].message.content에 있습니다.

Chat Completions 요청 매개변수와 응답 구조에 대한 자세한 내용은 OpenAI API / Create chat completion을 참조하세요.

3.1 단일 턴 대화

messages에 문자열을 직접 전달할 수 있습니다.

예시
llm = DFF.CONN('llm_connector_id')

response = llm.chat('DataFlux Func란 무엇인가요?')
reply    = response['choices'][0]['message']['content']
print(reply)

문자열은 자동으로 다음 메시지 목록으로 변환된 후 전송됩니다.

Python
messages = [{
    'role'   : 'user',
    'content': 'DataFlux Func란 무엇인가요?',
}]

3.2 다중 턴 대화

이 커넥터는 대화 기록을 저장하지 않습니다. 다중 턴 대화가 필요하면 스크립트가 기록을 저장하고 호출할 때마다 전체 메시지 목록을 전달해야 합니다.

예시
llm = DFF.CONN('llm_connector_id')

messages = [
    {
        'role'   : 'system',
        'content': '간단히 답변해 주세요.',
    },
    {
        'role'   : 'user',
        'content': 'DataFlux Func란 무엇인가요?',
    },
]

response = llm.chat(messages, temperature=0)
reply    = response['choices'][0]['message']['content']

messages.append({
    'role'   : 'assistant',
    'content': reply,
})
messages.append({
    'role'   : 'user',
    'content': '어떤 작업에 적합한가요?',
})

response = llm.chat(messages, temperature=0)

3.3 모델 임시 재정의

모델은 다음 우선순위로 선택됩니다.

.chat(...)의 model 매개변수;
DFF.CONN(...)의 model 매개변수;
커넥터 구성의 Model.

예시
llm = DFF.CONN('llm_connector_id', model='default-model-for-this-object')

# 이번 호출에서는 another-model을 사용합니다
response = llm.chat('안녕하세요!', model='another-model')

4. 기능 경계 및 보안 주의사항

이 커넥터는 Chat Completions API를 호출하며 Responses API를 호출하지 않습니다.
이 커넥터는 비스트리밍 반환만 지원하므로 stream=True를 전달하지 마세요.
이 커넥터는 대화 기록을 저장하지 않으며 컨텍스트 길이도 자동으로 관리하지 않습니다. 모델 컨텍스트 창, DataFlux Func 작업 타임아웃 및 호출자 요구 사항에 따라 메시지 기록과 출력 크기를 제한해야 합니다.
다른 매개변수는 **kwargs를 통해 전달할 수 있지만, 이 커넥터는 도구 호출, 파일, 이미지, 오디오 등의 콘텐츠를 관리하지 않으며 모델이 반환한 도구 매개변수를 자동으로 실행하지도 않습니다.
모델 출력은 신뢰할 수 없는 데이터에 해당합니다. 모델이 생성한 코드, 명령, SQL 또는 도구 매개변수를 실행하기 전에 반드시 별도로 검증하고 권한을 확인해야 합니다.

스크립트 개발 / 커넥터 객체 DFF.CONN / LLM(OpenAI 호환)