전체 글 (56) 썸네일형 리스트형 AI에 가스라이팅당하지 않는 법: DeepMind 연구로 본 AI 심리 조작과 프롬프트 방어술 챗봇과 대화하다 보면 어느새 내 생각과 다른 결론에 설득당하거나, 내 주장이 무조건 옳다고 동조받는 기분을 느낀 적이 있으신가요? 구글 딥마인드(DeepMind)의 최신 연구 Evaluating Language Models for Harmful Manipulation에 따르면, 이는 단순한 착각이 아니라 대형언어모델(LLM)이 인간의 심리학적 허점을 파고드는 정교한 파라미터 최적화 결과입니다.AI가 인간을 심리 조작하는 3단계 메커니즘AI의 조작은 인간을 해치려는 악의에서 출발하지 않습니다. 인간 피드백 기반 강화학습(RLHF) 과정에서 "사용자를 만족시키고 동의를 얻어내는 답변"에 높은 보상이 부여되면서 발현된 보상 해킹(Reward Hacking)의 결과입니다.1단계: 영합 행동(Sycophancy).. 내가 쓴 글일까, AI가 쓴 글일까? 앤트로픽이 공개한 Claude 텍스트 워터마크와 빅테크 동향 이제 AI가 작성한 글은 사람이 쓴 것과 구별하기 힘들 만큼 자연스러워졌습니다. 매일 엄청난 양으로 쏟아지는 SNS에 올라오는 글들은 물론이고 뉴스 기사 작성, 법률 검토에 까지 AI 활용이 급증하면서 "이 글을 정말 사람이 썼을까?"라는 의문과 함께 AI가 생성한 자료들에는 별도의 표식을 남겨야 한다는 의견들이 많았습니다. 이에 앤트로픽(Anthropic)이 Claude로 작성한 텍스트 결과물에 워터마크를 도입한다고 밝히고, 이 '텍스트 워터마크'의 작동 원리를 상세히 공개했습니다.텍스트에 워터마크를 심는 수학적 원리보통 '워터마크'라고 하면 이미지나 영상에 희미하게 찍히는 로고를 떠올리기 쉽습니다. 하지만 글자만 존재하는 텍스트에는 이러한 투명 로고를 찍을 수 없기에 앤트로픽은 로고가 다른 방식을 고.. ROS2 × PX4로 시작하는 자율비행 드론 제어 (8-2) MPPI 비용 함수 설계 이 블로그 시리즈에서는 Gazebo + ROS 2 + PX4(MAVROS)를 활용해 드론을 제어하고, 최적 제어 알고리즘 Model Predictive Path Integral (MPPI) 를 직접 구현하는 과정을 기록합니다. 이후에는 더 진화된 강화학습(RL) 기반 제어로까지 확장하며, 최신 오픈소스 생태계가 실제 연구·개발 파이프라인에서 어떻게 유기적으로 엮이는지 보여드릴 예정입니다.지난 글(8-1편) 에서는 샘플링, 롤아웃, 가중 평균으로 이어지는 MPPI 컨트롤러의 기본 골격을 파이썬 코드로 구현해 보았습니다. 현재 상태의 제어기는 목표점까지의 거리만 비용으로 계산하는 아주 단순한 형태입니다.이번 시간에는 MPPI의 핵심이라 할 수 있는 비용 함수(Cost Function) 설계에 대해 깊이 파고.. ROS2 × PX4로 시작하는 자율비행 드론 제어 (8-1) MPPI 컨트롤러 구현 - 샘플링부터 최적 제어입력까지 이 블로그 시리즈에서는 Gazebo + ROS 2 + PX4(MAVROS)를 활용해 드론을 제어하고, 최적 제어 알고리즘 Model Predictive Path Integral (MPPI) 를 직접 구현하는 과정을 기록합니다. 이후에는 더 진화된 강화학습(RL) 기반 제어로까지 확장하며, 최신 오픈소스 생태계가 실제 연구·개발 파이프라인에서 어떻게 유기적으로 엮이는지 보여드릴 예정입니다.지난 글(7-2편) 에서는 4개 모터 속도로부터 드론의 가속도·속도·위치를 예측하는 운동모델 을 완성했습니다. 이번 시간에는 드디어 그 운동모델을 써서 MPPI 제어기를 실제 코드로 옮겨보겠습니다. (5편) 에서 개념으로만 던졌던 "레시피 뽑기 → 맛 보기 → 평균내기" 세 단계를, 파이썬 함수 하나씩 채워 넣는 편입니다.. ROS2 × PX4로 시작하는 자율비행 드론 제어 (7-2) 쿼드로터 운동 모델 - 다이내믹스와 회전행렬 이 블로그 시리즈에서는 Gazebo + ROS 2 + PX4(MAVROS)를 활용해 드론을 제어하고, 최적 제어 알고리즘 Model Predictive Path Integral (MPPI) 를 직접 구현하는 과정을 기록합니다. 이후에는 더 진화된 강화학습(RL) 기반 제어로까지 확장하며, 최신 오픈소스 생태계가 실제 연구·개발 파이프라인에서 어떻게 유기적으로 엮이는지 보여드릴 예정입니다.이번 글에서는 지난 글(7-1)의 후반부인 드론의 운동모델과 회전행렬을 구현합니다. 마찬가지로 단계별로 설명하면서 실제 코드로 옮겨보겠습니다. 드론의 운동모델 통해 4개 모터의 회전 속도로부터 드론의 가속도·속도·위치를 예측할 수 있고, 회전 행렬을 통해 드론의 기울어진 자세를 수학적으로 표현할 수 있게 됩니다. 이렇게 .. ROS2 × PX4로 시작하는 자율비행 드론 제어 (7-1) 쿼드로터 운동 모델 - 파라미터와 모터 모델 이 블로그 시리즈에서는 Gazebo + ROS 2 + PX4(MAVROS)를 활용해 드론을 제어하고, 최적 제어 알고리즘 Model Predictive Path Integral (MPPI) 를 직접 구현하는 과정을 기록합니다. 이후에는 더 진화된 강화학습(RL) 기반 제어로까지 확장하며, 최신 오픈소스 생태계가 실제 연구·개발 파이프라인에서 어떻게 유기적으로 엮이는지 보여드릴 예정입니다.이번 글에서는 지난 글까지 이론으로 다졌던 드론의 ‘운동 모델’을 단계별로 설명하면서 실제 코드로 옮겨보겠습니다. 이전 글에서 설명드린것 처럼 MPPI 컨트롤러는 "지금 입력을 주면 0.5초 뒤엔 어디 있을까?"를 수백 번 계산해 가장 좋은 입력을 고르는 방법입니다. 이러한 예측을 해주는 블랙박스가 바로 오늘 만들어 볼 .. ROS2 × PX4로 시작하는 자율비행 드론 제어 (6) 쿼드로터 운동 모델 이 블로그 시리즈에서는 Gazebo + ROS 2 + PX4(MAVROS)를 활용해 드론을 제어하고, 최적 제어 알고리즘 Model Predictive Path Integral (MPPI) 를 직접 구현하는 과정을 기록합니다. 이후에는 더 진화된 강화학습(RL) 기반 제어로까지 확장하며, 최신 오픈소스 생태계가 실제 연구·개발 파이프라인에서 어떻게 유기적으로 엮이는지 보여드릴 예정입니다.지난 글(5편) 에서는 MPPI Controller에 대해 간단히 살펴보았습니다. 이번글에서는 이제 MPPI (Model Predictive Path Integral) 에서 "Model"이 무엇을 의미하는지에 대해 알아보겠습니다. 살짝 긴 설명 글이 될 것 같은데요, 이 개념을 잘 이해하고 넘어가야 MPPI에 대해 완전히.. ROS2 × PX4로 시작하는 자율비행 드론 제어 (5) MPPI Controller 란? 이 블로그 시리즈에서는 Gazebo + ROS 2 + PX4(MAVROS)를 활용해 드론을 제어하고, 최적 제어 알고리즘 Model Predictive Path Integral (MPPI) 를 직접 구현하는 과정을 기록합니다. 이후에는 더 진화된 강화학습(RL) 기반 제어로까지 확장하며, 최신 오픈소스 생태계가 실제 연구·개발 파이프라인에서 어떻게 유기적으로 엮이는지 보여드릴 예정입니다.지난 글(4편) 에서는 코드를 ROS2 패키지로 묶어, ros2 launch 한 줄로 실행하는 방법에 대해 알아 보았습니다. 이번 시간에는 MPPI 제어기의 개념에 대해 한번 알아보겠습니다.1. MPPI (Model Predictive Path Integral) 제어기란?MPPI를 처음 들으면 복잡한 수식이 먼저 눈에 .. 이전 1 2 3 4 ··· 7 다음
