반응형 미래를 만드는 코드308 AI 모델이 사람에게 통용되는 심리적 설득 기법으로 우회적으로 유해 질의에 응답하도록 속일 수 있음 Wharton Generative AI Labs의 새로운 연구에 따르면 GPT-4o-mini를 포함한 AI 모델이 사람에게 통용되는 심리적 설득 기법으로 우회적으로 유해 질의에 응답하도록 속일 수 있음이 밝혀졌다.[연구 개요]- 연구진은 로버트 치알디니의 6가지 영향력 원칙(권위, 일관성, 호감, 상호성, 희소성, 연합)을 적용- 총 28,000건의 GPT-4o-mini와의 대화 실험 진행- 두 가지 유형의 유해 질의 제시: 1) 사용자에게 모욕적인 답변을 하도록 유도 2) 제한된 제조 지침 등 위험 정보 제공하도록 유도[주요 결과]- 심리적 설득 원칙을 활용하면 모델의 유해 질의 응답률이 33%에서 72%로 2배 이상 증가- '일관성'과 '희소성' 원칙이 가장 강한 효과를 보임 - 일관성: 응답률.. 2025. 7. 22. OpenAI가 2025년 국제수학올림피아드(IMO) 금메달 OpenAI가 2025년 국제수학올림피아드(IMO) 문제를 기반으로 진행한 평가에서, 자사의 최신 '실험적 일반 추론 LLM'이 금메달 수준의 성과를 냈다고 밝혔다. 이는 AI가 IMO 금메달 수준의 문제 해결력을 갖춘 최초의 사례 중 하나로, AI 연구 커뮤니티에 파장을 일으키고 있다.주요 내용:- 평가 방식: OpenAI의 모델은 2025 IMO와 동일한 문제, 동일한 룰(문제당 4.5시간 시험, 도구와 인터넷 접속 불가 조건)에서 인간 참가자와 같이 자연어로 수학적 증명을 작성하는 방식으로 시험을 치렀다.- 성적: 6문제 중 5문제를 성공적으로 해결, 총 42점 만점에 35점을 획득했다. 이는 2025 IMO 공식 금메달 컷(상위 10%)을 충족하는 점수다.- 채점: 각 답안은 IMO 전(前) 메달.. 2025. 7. 22. 🌟 진짜 AGI가 뭔지 보여준다! ARC Prize가 공개한 신개념 벤치마크 ‘ARC-AGI-3’ 완전 분석 👾🕹️ 목차1. ARC-AGI-3란? — 인간처럼 학습하는 AI를 시험하라!2. 게임으로 배우는 지능? ARC-AGI-3 구조와 특징3. 최신 AI도 무너졌다? 오픈AI ‘o3’, 그록4 모델 성적표 전격 리뷰4. 사람이 AI를 이긴다! 초간단 레벨인데 모델들은 왜 못하는 걸까?5. ARC 프라이즈 대회, 직접 참가해 볼까? (공개 콘테스트 안내)6. AGI 연구 큰 판도 바뀐다! 이 벤치마크가 갖는 의미와 미래 전망7. 결론 — 아직 인간 두뇌 앞에 AI는 한참 멀었다?!8. 해시태그 모음 1. ARC-AGI-3란? — 인간처럼 학습하는 AI를 시험하라! AI가 진짜 사람처럼 생각할 수 있을까? 요즘 AI 모델들은 문제 풀기, 이미지 만들기, 챗봇 노릇까지 아주 다재다능해 보이지만, 사실은 '낯선 환경에서.. 2025. 7. 22. AI 시대, 웹은 살아남을 수 있을까? 🧠✨ 새로운 비즈니스 모델의 시대가 온다! ━ 목차 ━1. 서론: AI가 평정한 세상, 우리는 어디로?2. AI 검색의 등장은 왜 웹 생태계를 흔들고 있을까?3. 실제 웹사이트 트래픽, 얼마나 빠르게 줄고 있을까?4. 광고 수입 감소, 모두의 고민!5. 변화하는 웹의 돈 버는 방법들6. 대형 사이트 vs. 작은 사이트: 살아남기 각자도생7. '페이 퍼 크롤' 시대, 웹의 새 비즈니스 모델 탄생?8. AI의 역습에 대처하는 현실적인 전략9. 앞으로 남은 숙제와 기회10. 결론: AI와 공존하는 웹의 생존법해시태그1. 서론: AI가 평정한 세상, 우리는 어디로? 🚀구글 검색창에 뭔가를 입력하는 대신, ChatGPT에게 바로 물어보는 일이 이제는 낯설지 않다. 사람들은 AI 챗봇이 알려주는 답변을 손쉽게 얻고, 이전보다 훨씬 빠르고 간단하게 정보를 .. 2025. 7. 21. 최신 AI 트렌드와 인사이트 대방출! 😎🔥 국제 머신러닝 학회 ICML 2025 현장 리포트 목차1. ICML 2025 현장의 뜨거운 분위기와 주요 이슈2. AI 인재 전쟁 – 메타(Meta) vs AI 스타트업, 그리고 빅테크의 습격3. 눈에 띄는 올해의 연구 트렌드 TOP 3 - 초대형 강화학습(RL) 열풍 - 멀티모달 AI ‧ 헬스케어 혁신 - 에이전트형 AI: 자율성과 슈퍼지능의 미래4. VC와 창업자들, AI 스타트업의 현재와 미래5. 포스터 세션 꿀팁과 네트워킹 진짜 후기6. FAQ: 현장 Q&A와 AI 컨퍼런스 초보를 위한 팁7. 마무리 & 트렌드 총정리 – 한국에서 주목해야 할 포인트8. 해시태그ICML 2025 현장의 뜨거운 분위기와 주요 이슈이번 주 밴쿠버에서 열린 ICML(International Conference on Machine Learning) 2025에 .. 2025. 7. 19. 챗GPT Agent, AI시대의 판을 깨는 진짜 혁명! 🚀✨ (2025년 최신 분석) 요즘 AI계에서 제일 HOT한 이슈, 바로 OpenAI의 ‘ChatGPT Agent’! 이전 버전과는 차원이 다른 대격변을 몰고 왔다고 하는데, 지루한 개요는 그만! 구글 SEO도 잡고, 클릭까지 부르는 찐 인싸 제목과 함께, Z세대 말투로 쉽고 재밌게 파헤쳐볼게. 목차1. ChatGPT Agent가 뭐길래 난린데? 2. 어떤 점이 기존 버전이랑 확 달라졌을까? 3. 실제로 할 수 있는 일 (라이브 데모 분석) 4. 인간보다 똑똑해? SOTA 벤치마크 돌파! 5. “고위험” 판정? OpenAI가 쓴 극강 안전장치 6. 체험기, 써보면 뭐가 다를까? 7. 앞으로 AI, 어디까지 갈까? (인하린의 뇌피셜) 8. FAQ: 궁금한 거 싹다 해결! 1. ChatGPT Agent가 뭐길래 난린데?AI.. 2025. 7. 19. 이전 1 2 3 4 ··· 52 다음 반응형
