이 글은 2024년 8월 29일 오후 1시에 특정 커뮤니티에 업로드된 글입니다. YoursAI의 히스토리를 투명하게 기록하기 위한 아카이브 목적으로 작성했습니다.
안녕하세요, 오랫동안 눈팅하던 한 개발자입니다. (github에서는 narayo9라는 유저네임을 쓰고 있어요) 글은 처음 써보네요
아마 대부분 모르시겠지만, 국내 유저들을 대상으로 작년에 '유월의 시현이'라는 AI 편지 서비스를 운영한 적이 있습니다.
---
10월 런칭을 목표로 새로운 오픈소스 LLM 채팅 프론트엔드를 준비하고 있는데, 관심이 있으실까 해서 글을 쓰게 됐어요.
https://github.com/yours-ai/YoursAI
사용하고 계시는 캐릭터 카드, 프롬프트 템플릿 등을 하위 호환하면서도, 조금 더 간편하고 빠릿한 경험을 제공하려고 합니다.
쉬운 기본값, 하지만 완전히 커스터마이징 가능하게
채널에서 공유되는 프롬프트 템플릿, 캐릭터, 로어북 등의 퀄리티가 놀라울 정도로 좋다고 생각해요.
하지만 그냥 고퀄리티로 캐릭터 채팅을 즐기고 싶은 사람에게는 조금 과하게 어려워진 것 같습니다.
YoursAI는 이런 목표로 작업하고 있습니다.
- 프롬프트 템플릿, 모듈: 구조 개선, 묶어서 배포 가능.
(프롬프트 템플릿에 따른 프롬프트 빌딩 과정의 퍼포먼스 하락이 심한 것으로 이해하고 있습니다. 구조 개선을 통해 이 부분을 개선할 수 있을 것 같아요.)
- 기존 개념을 좀 더 쉽게, 몰라도 몇 번 클릭만으로 설정 가능하도록 (로어북, 모듈, 프롬프트 템플릿 등)
- 하지만 마찬가지로 완전 커스터마이징 가능, 유저 설정 파일로 공유 가능하도록
For Hackers: 완전 로컬, 오픈소스, 언제든지 데이터 삭제 가능
규제에 대한 걱정이 크게 있으신 것 알고 있습니다.
법적으로 어디까지 가능한지는 잘 모르겠지만, 최대한 해커스럽게 가려고 해요.
- 약관은 최대한 짧게, 가능하다면 없앨거고, 회원가입은 따로 없을 거에요 (동기화 때문에 필요하다면 디시의 식별 코드 느낌으로)
- 채팅을 포함한 데이터는 로컬에만 저장되고 언제든지 export, 완전 삭제 가능할 겁니다.
- 당연히 오픈 소스고 언제든지 로컬에 받아두시면 레포가 삭제되어도 쓰실 수 있게 만드려 하구요.
---
이외에도 AI 채팅 프론트엔드에서의 선톡 기능, "쓸만한" stable diffusion과의 연동 등을 연구해본 적이 있고,
배포 이후 추가를 목표로 준비하고 있습니다.
괜찮다면 종종 개발 근황 소식으로 돌아올게요.
관심과 훈수는 언제나 환영입니다.
감사합니다!