activation function(활성 함수)

import numpy as np
import matplotlib.pyplot as plt

 

x=np.arange(-10,10,0.1)
y=np.tanh(x)

import matplotlib.pyplot as plt
plt.title('tanh(x)')
plt.plot(x,y)

x=np.arange(-10,10,0.1)
x_copy=x.copy()
x_copy
x_copy[x_copy<0]=0
y=x_copy
plt.plot(x,y)
# plt.plot(x,np.maximum(0,x))
plt.title('Relu')

def sigmoid(x):
    return 1/(1+np.exp(-x))

x=np.arange(-10,10,0.1)
y=sigmoid(x)
plt.title('sigmoid')
plt.plot(x,y)