동적 Few-shot 프롬프트를 이용한 텍스트 교정의 일관성 유지

동적 Few-shot 프롬프트란 무엇인가?

구현 과정

1. 교정 결과의 저장 및 관리: 교정된 각 청크의 원본 문장과 교정된 문장을 유지, 관리하는 단계입니다. 이를 통해 최근의 교정 맥락을 참조할 수 있는 데이터 풀을 구성합니다.

2. 동적 프롬프트 구성: 새로운 텍스트 청크를 처리하기 전에, 최근 교정 결과를 포함하는 동적 프롬프트를 구성합니다. 이 프롬프트는 모델이 더 일관된 교정을 수행하는 데 도움을 줍니다.

3. 모델 입력 준비와 처리: 구성된 프롬프트를 모델 입력으로 사용하여 텍스트 청크를 처리하고, 처리된 결과를 다시 저장함으로써 프롬프트가 지속적으로 업데이트되도록 합니다.

text_correction.py

# text_correction.py

recent_corrections = []  # 최근 교정 결과를 저장할 리스트

def update_recent_corrections(original_text, corrected_text, max_examples=5):
    """최근 교정 결과를 업데이트합니다."""
    if len(recent_corrections) >= max_examples:
        recent_corrections.pop(0)  # 가장 오래된 예시 제거
    recent_corrections.append((original_text, corrected_text))  # 새 예시 추가

def construct_prompt(chunk):
    """청크를 위한 동적 프롬프트를 구성합니다."""
    dynamic_prompt = "당신은 글쓰기 전문가입니다. 다음과 같이 교정해주세요:\\n"
    for original, corrected in recent_corrections:
        dynamic_prompt += f"교정 전: {original}\\n교정 후: {corrected}\\n"
    dynamic_prompt += f"교정 전: {chunk}\\n교정 후:"
    return dynamic_prompt

def process_chunk(chunk):
    """청크를 처리합니다."""
    prompt = construct_prompt(chunk)
    # 여기에서는 모델 호출 및 교정 결과를 받는 부분을 가정합니다. 실제 모델 호출 로직이 필요합니다.
    corrected_chunk = "교정된 청크 예시"  # 실제로는 모델의 결과를 사용합니다.
    # 최근 교정 결과 업데이트
    update_recent_corrections(chunk, corrected_chunk)
    return corrected_chunk

main.py

# main.py

# text_correction.py에서 함수를 불러옵니다.
from text_correction import process_chunk

def chunk_text(document_text, max_words=200):
    """문서를 특정 단어 수에 따라 청크로 나눕니다."""
    words = document_text.split()
    chunks = [' '.join(words[i:i+max_words]) for i in range(0, len(words), max_words)]
    return chunks

def main():
    document_text = "여기에 문서의 전체 텍스트를 입력합니다. 동적 Few-shot 프롬프트 방식을 사용하여 각 청크의 일관성을 유지하면서 교정을 진행합니다."
    chunks = chunk_text(document_text, max_words=200)

    for chunk in chunks:
        corrected_chunk = process_chunk(chunk)
        print(f"교정된 청크: {corrected_chunk}")

if __name__ == "__main__":
    main()

장점과 한계

FAQ