개발블로그

역행렬 (Inverse Matrix)역행렬이란, n x n행렬 A에 대해 어느쪽에서 곱하든 Identity Matrix가 되는 행렬을 말한다. $A_{n\,x\,n}A^{-1} = A^{-1}A = I$ 위와 같이 교환법칙이 성립하는 것이 중요한 조건이다. n x n행렬이라고 해서 모든 행렬이 역행렬을 가지는 것은 아니다. $Det(A) \neq 0$ 일 때에만 역 행렬이 존재한다. (Det에 대해서는 추후에 다룰 예정) 역행렬의 특징A에 대해: 역행렬 $A^{-1}$는 가우스 소거법 뒤에 n pivot이 있을 때에 존재한다. n pivot들이란, 대각선의 값들이 0이 아니라는 의미 역행렬 $A^{-1}$는 두개 이상 존재할 수 없다 = Unique하다. 역행렬 $A^{-1}$가 존재한다면, $x = A..

가우스 소거법과 선형 결합가우스 소거법에서 일정 계수를 곱해주고 특정 행을 빼는 행위는, 선형변환으로 표현할 수 있고, 이 선형변환은 행렬로 표현될 수 있다. 다음과 같은 연립방정식이 표현된 행렬이 있다. $\begin{bmatrix} 2 \quad 1 \quad 1 \\ 4 \quad -6 \quad 0 \\ -2 \quad 7 \quad 2 \end{bmatrix}$ 가우스 소거법의 첫번째 단계를 진행하면, 첫번째 행에 계수를 곱해 두번째 행에서 빼주는 것이다: (2) - 2 * (1) 이를 진행하면 다음과 같은 행렬이 나온다: $\begin{bmatrix} 2 \quad 1 \quad 1 \\ 0 \quad -8 \quad 2 \\ -2 \quad 7 \quad 2 \end{bmatrix}$ 이는 ..

머신러닝 본 포스팅은 Andrew Ng교수의 Machine Learning 코세라 강좌를 정리한 내용입니다. https://www.coursera.org/learn/machine-learning 정규방정식 정규방정식 이란 특정 선형 문제에서 파라미터값인 θ를 더 쉽게 풀 수 있게 만들어주는 방법이다. 지금까지의 경사하강법에서는, Global Minimum을 찾기 위해 많은 스텝들을 밟아야 했다. 하지만 정규방정식은 이것을 분석적으로 풀 수 있게 해준다. 경사하강법의 많은 반복을 하기보다, 분석적으로 θ값의 해를 구하면 한번에 구할 수 있다는 말이다. 예제) 변수가 많지 않은 아래 2차 방정식 수식을 보자. 위의 수식을 minimize하려면 미분 값을 구한 다음, =0을 하고 θ로 풀면 된다. 하지만 많은..