KM-Hana

숙련자와 초심자 간의 격차가 줄어들고 있다. AI 기술은 개발, 리포트 작성, 리서치 등 다양한 영역에서 활용되고 있습니다. 하지만 무조건적인 생산성 향상만을 맹신해서는 안 됩니다. 각 직무별로 AI가 만들어낼 수 있는 "평균 기대 생산량"을 정의하고, 이를 초과하는 수치는 오히려 품질 저하나 워크슬롭(Workslop)의 신호로 간주하는 가이드라인이 필요합니다. 최신 자료를 중심으로 개발/코딩 분야에서 AI를 활용하였을 때 기대되는 증가량을 소개드리고자 합니다. AI로 증가된 생산성 - 개발 편 올바른 개발 생산성 지표 정의가 필요하며, 단순한 코드 양(LOC)은 생산성의 척도가 될 수 없습니다.마이크로소프트가 제안한 SPACE 지표를 통해 다각도로 평가해야 합니다.- Microsort에서는 SPACE..

당신은 "조종사"인가, "승객"인가? AI를 활용하면서 업무 처리량이 평소 2~3배 늘었다는 분들이 많습니다. 하지만 들여다보면 위험한 징후들이 보입니다. - 겉은 예쁘지만 사실과는 다른 보고서. - 구조는 완벽하고 방대하지만 정작 돌아가지 않는 코드AI가 만들어내는 그럴듯한 저품질 결과물 "워크슬롭(workslop)"은 조직의 생산성을 조용히 갉아먹는 비용 폭탄이자, 작성자의 정문성을 의심케 하는 부메랑입니다. 문장은 완벽한데 내용이 틀린 보고서가 쌓일수록, 동료들은 검증과 리뷰라는 늪에 질식하게 됩니다.에지는 "빠르고 많이"에서 "믿고 쓸 수 있는 품질의 적정량"을 만드는 것이 AI시대의 진짜 실력입니다. 대표적인 기사 1) 하버드 비즈니스 리뷰(HBR): AI-Generated “Workslo..

AI가 주는 "생산성"이라는 선물. 우리가 짊어질 숙제는 "책임". AI로 높아진 생산성AI시대가 열리면서 업무 생산성은 비약적으로 증가했습니다. 1) 반복 작업을 자동화하여 비용 절감 2) 고숙련 작업자의 정보 탐색 및 문제 해결 속도 증가PwC 조사에 따르면 AI 에이전트를 도입한 기업 중 66%가 생산성 향상을 체감했다고 합니다. 1)이러한 실질적인 이점은 기업의 AI 도입을 가속화하고 있습니다. 미국 직장인의 AI사용 비율은 2023년 21%에서 2025년 기준 (2년 만에) 2배 이상 증가하였습니다. 특히, 화이트 칼라 전문직을 중심으로 생산성 혁신이 일어나고 있다는 점은 매우 흥미로운 대목입니다. 하지만 반대 의견도 있습니다.1) 생산성은 향상됐지만, 혁신적인 변화에는 미치지 못하고 있..

Multi-task learning(MTL)은 다양한 추천 시스템에 성공적으로 활용되고 있습니다.지난번에는 추천 분야의 주요 Multi-Task 논문 중 하나인 2020년 텐센트 논문 Progressive Layered Extraction(PLE)에 이어서,https://kmhana.tistory.com/55?category=882777 추천 MTL - Progressive Layered Extraction(PLE)Multi-task learning(MTL)은 다양한 추천 시스템에 성공적으로 활용되고 있습니다.추천 분야에서 많이 인용되는 논문 중 하나 인 Progressive Layered Extraction(PLE)에 대해서 소개드리고자 합니다. 추천 분야kmhana.tistory.com 2023년 최..

Multi-task learning(MTL)은 다양한 추천 시스템에 성공적으로 활용되고 있습니다.추천 MTL 중 핵심 논문 중 하나 인 Progressive Layered Extraction(PLE)에 대해서 소개드리고자 합니다.종합 : ⭐⭐⭐⭐1. 논문 중요도 : 4 점2. 실용성 : 4 점설명 : 추천 Multi-Task Learning 분야에서 핵심 논문 - MMoE를 효과적으로 개선 - 공유 전문가와 작업별 전문가를 명확히 분리 - Task간의 안좋은 영향인 Negative transfer와 시소 현상 완화 - 효율적인 Shared Representation 학습 구현Multi-Task Learning의 기초가 되는 기술 MoE(Mixture of Experts)의 역사에서 PLE가..

https://kmhana.tistory.com/53 Mixture-of-Experts 기반 추천 시스템 - ①Mixture-of-Experts (MoE)는 1991년 Jacobs 등이 처음 제한한 고전적인 앙상블 기법입니다.MoE는 모델 용량을 크게 확장할 수 있으며, 계산 오버헤드 가능성이 크지 않습니다. 이러한 능력은 최근 딥러닝 분kmhana.tistory.com에 이어서, 추천 시스템에서의 Mixture-of-Experts(MoE)를 소개 드리고자 합니다. 많은 추천 시스템(recommender system) 응용은 다중 작업 학습(Multi-task learning)  기반으로 구축됩니다. 이러한 접근법의 핵심 아이디어는 사용자 참여(user engagement), 사용자 만족(user sat..

Mixture-of-Experts (MoE)는 1991년 Jacobs 등이 처음 제한한 고전적인 앙상블 기법입니다.MoE는 모델 용량을 크게 확장할 수 있으며, 계산 오버헤드 가능성이 크지 않습니다. 이러한 능력은 최근 딥러닝 분야에서 혁신적으로 결합되어, 다양한 분야에서 MoE를 광범위하게 사용하게 되었습니다. 특히, LLM(Large Language Model)와 같은 대규모 어플리케이션에 성공적으로 활용되고 있습니다. Mixture-of-Experts (MoE)에 대한 소개와 중요하게 개선된 히스토리를 소개하고자 합니다. ※ https://blog.reachsumit.com/posts/2023/04/moe-for-recsys/ Mixture-of-Experts based Recommender Sys..

*크롬으로 보시는 걸 추천드립니다* https://arxiv.org/pdf/2311.04635v1종합 : ⭐⭐⭐⭐1. 논문 중요도 : 4 점2. 실용성 : 4 점설명 : 추천 시스템에 주요 트렌드를 적용한 논문 - Cross Network를 활용하여 Feature Interaction을 활용 - Information Gate를 활용하여 중요한 상호작용(Interaction)을 동적(dynamic)으로 필터링 - Embedding Layer의 Field별 중요도에 따라서 dimension 압축 - 2023년 기준으로 SOTA (24년도에는 DCVN v3가 리더보드를 갱신했지만 그 차이는 크지 않음)( * 개인적인 의견이며, 제 리뷰를 보시는 분들에 도움드리기 위한 참고 정도로 봐주세요)딥러..

"데이터 사이언티스트 하지 마세요" 반론과 비판 2탄에 이어서, 3탄을 이어서 이야기해 보고자 합니다. "데이터 사이언티스트 하지 마세요"를 요약하자면 다음과 같습니다. 1. 대부분의 회사에서는 데이터가 없다. 즉 머신러닝만으로 성과를 낼 환경이 부족하다. - 로그를 직접 남기거나 백앤드 개발자를 설득해야 하므로 업무의 진행 속도가 느리다. 2. 신입이나 학부 졸업만으로는 성과 내기 어렵다. - 석·박사보다 성과를 내기 어렵기에, 신입을 잘 뽑지 않는다. - AI 프로젝트에서 모델링은 5% 정도다.. (그에 비해, 요즘 학부생들이 머신러닝에만 관심이 높다) 3. 백앤드로 시작해야 한다. - 백앤드가 수요가 더 높고 연봉도 높다. - 백앤드에서 데이터 엔지니어링으로 가기 쉬우며, 백앤드에서 머신러닝으로 가..

"데이터 사이언티스트 하지 마세요" 반론과 비판 1탄에 이어서, 2탄을 이어서 이야기해보고자 합니다. "데이터 사이언티스트 하지 마세요"를 요약하자면 다음과 같습니다. 1. 대부분의 회사에서는 데이터가 없다. 즉 머신러닝만으로 성과를 낼 환경이 부족하다. - 로그를 직접 남기거나 백앤드 개발자를 설득해야 하므로 업무의 진행 속도가 느리다. 2. 신입이나 학부 졸업만으로는 성과 내기 어렵다. - 석·박사보다 성과를 내기 어렵기에, 신입을 잘 뽑지 않는다. - AI 프로젝트에서 모델링은 5% 정도다.. (그에 비해, 요즘 학부생들이 머신러닝에만 관심이 높다) 3. 백앤드로 시작해야 한다. - 백앤드가 수요가 더 높고 연봉도 높다. - 백앤드에서 데이터 엔지니어링으로 가기 쉬우며, 백앤드에서 머신러닝으로 가기..