computer_study

Perceptron Convergence theorem이란? 잘못 분류 된 data들을 찾아서 다시 분류하는 update rule이다.(boundary를 조금씩 바꾸어가면서) perceptron(퍼셉트론) 초기 형태의 인공신경망으로 다수의 입력으로부터 할당된 웨이트 w를 곱한 다음 하나의 결과를 내보내는 알고리즘이다. 즉. Perceptron convergence theorem이란, 퍼셉트론 알고리즘을 이용해서 값을 수렴시키는 이론이라는 의미이다. Example Perceptron Convergence의 특징 d차원에서 hyper plane으로 분류가 완벽하게 되는 경우(Linearly separable한 경우) 다음과 같이, 모든 data가 하나의 구 안에 들어있다고 볼 수 있다. 이때 그 구의 반지름..

Fisher Discriminant Analysis란? FDA 혹은, Linear Discriminant Analysis(LDA)라고 불린다. 데이터들을 하나의 직선(1차원 공간)에 projection시킨 후 그 projection된 data들이 잘 구분이 되는가를 판단하는 방법이다. 데이터가 잘 구분되어있다는 의미는 위 그림 중, 왼쪽 보단 오른쪽 처럼 구분이 되어야 됨을 의미한다. 이 특성을 보자면, 데이터들이 모여있고, 중심부가 서로 멀수록 데이터의 구분이 잘 됐음을 알 수 있다. 즉, projection 후 두 데이터들의 중심(평균)이 서로 멀수록, 그 분산이 작을수록 구분이 잘 되었다고 얘기할 수 있다. 이렇게 잘 분류되게끔 하는 하나의 vector w를 구하는 것이 LDA이다. variance..

수치해석에서의 Min/Max 구하기 min/max 값을 구할 땐, 보통 그 min 값이나 max값이 주 목적이 된다. (ex. 돌을 하늘로 던졌을 때, 최대로 높이 올라간 높이는?) 수치해석에서 min/max구하는 문제는 변수(parameter)를 최적화하는 문제이다. cost나 energy값 자체보단, 그 값들이 min/max값을 갖게 하는 변수가 중요하고 이 변수가 실질적인 solution이다. 앞선 01.Root에선 f(x)=0이 되는 x값을 구하는 문제였다면 Min/Max찾기는 f '(x)=0이 되는 x값을 찾는 것이다. 과정은 비슷하지만, f ''(x) (이계도함수)가 사용된다. Global과 Local global min/max는 모든 구간에서 min/max인 값을 얘기하고 local min/..

Linear classifier(선형 분류) 정의 주어진 속성의 선형결합을 바탕으로 분류를 수행한다. (직선으로 데이터를 두 그릅으로 분류한다.) 주어진 data D = {xi, yi} 이고 xi는 d차원vector, y ∈ {1,2} 일 때, (y는 class를 의미한다.) wTx - b ≥ 0 이면 y(x) = 1 , wTx-b

인공지능에서 사용하는 용어에 대한 의미를 정리한다. 함수를 벡터에 대해 혹은 행렬에 대해 미분하는 방법 scalar함수를 vector로 미분 함수 f를 아래 그림과 같이 d차원 벡터를 input으로 받아 d차원 벡터를 output하는 함수 라고 하고 이러한 f를 x에 대해 미분한다면 scalar를 vector로 미분 한 것이기 때문에 각 x값마다 미분값이 생긴다. 함수를 행렬로 미분 matrix를 입력값으로 받아 scalar값을 output 하는 함수 f: A -> y라 할 때, 이러한 f를 A로 미분하면 matrix가 나오며, 위 과정과 같은 과정을 거쳐 다음과 같은 값이 나온다. 기본적인 미분 식 정리 기본적인 미분 식 증명 1번 식 증명 4번식 증명 trace(대각 합) 기호 : tr(A) 정의 :..

Software process란? 누가 무엇을 언제 어떻게 특정 목표에 도달하는지를 정의한다. (product의 성능은 process의 성능과 비례한다고 알려져있다.) "software life cycle" 혹은 "software development process"라고 하기도 한다. software는 굉장히 다양하기때문에, software를 만드는 표준화된 process는 존재하지 않는다. 하지만 대부분 유사한 issue들을 가지고있기 때문에, 통상적인 process model을 살펴볼 수 있다. Basic process steps 각 단계를 명확히 구분하고, 현재 개발이 어느 단계에 위치해 있는지를 아는 것이 중요하다. 1. feasibility study (타당성 연구) 프로젝트를 진행할지 말지 의..

Computer security란? 정보 시스템 리소스의 기밀성(confidentiality),무결성(integrity) 및 가용성(availability)을 유지하는 목표를 달성하기 위해 자동화 된 정보 시스템에 제공되는 보호 기능이다. (하드웨어, 소프트웨어, 펌웨어(ROM, flash-memory), 정보 / 데이터 및 통신 포함) 이때, 기밀성(confidentiality),무결성(integrity) 및 가용성(availability)을 CIA Triad라고 한다. CIA Triad Confidentiality (기밀성) 허가된 사람들만 정보에 접근할 수 있도록 정보 액세스 및 공개에 대한 승인 된 제한을 유지. 개인 정보 및 독점 정보를 보호하기위한 수단으로 많이 사용되고, Data를 암호화 하..

문제 내용 해결 과정 해당 방정식은 4차 방정식이기에, 몇가지 수를 넣어보고 대략적으로 다음과 같은 그림을 얻을 수 있었다. 이후 Bisection과 Newton-Raphson방식을 사용하여 문제를 해결하였다. bisection 그래프의 모양을 참고하여, 넉넉히 ( -4 ~ 9 ) 구간을 1씩 나누어 진행하였다. Epsilon은 0.001로 stop condition을 잡아 오차범위를 설정하였다 . Interval 양 끝 각각의, 함수 값의 곱이 음수일 때, bisection을 이용하여 interval을 줄여주었다. 결과는 두개의 값 (-1.04395, 3.12402)이 나왔다. 1. 주어진 함수 구현 double f(double x){ return 5*pow(x,4) -22.4*pow(x,3) +15...