1. データセットの前処理

1. データセットの紹介

トレーニングデータセット: temps.csv の無料ダウンロードリンク
データセットには主に 348 個のサンプル、合計 8 個の独立変数と 1 個の従属変数が含まれています

独立変数	従属変数
年: 年	実際: その日の実際の最高気温
月: 月
day：日
週: 週
temp_1: 昨日の最高気温値
temp_2: 一昨日の最高気温値
平均: 歴史上、毎年この日の最高気温の平均値
友達: 楽しみに参加するために友達が推測した可能性のある値

ここに画像の説明を挿入

2. データセットの形式

Ⅰ ガイドパッケージ

import numpy as np
import pandas as pd 
import matplotlib.pyplot as plt
import torch
import torch.optim as optim
import datetime

Ⅱ データセットを読み込み、最初の 10 レコードを表示します

dataset = pd.read_csv('temps.csv')
print(dataset.shape) # (348, 9)
dataset.head(10)

ここに画像の説明を挿入

Ⅲ 年、月、日の情報を取得して日時形式に変換し、最初の 10 件のレコードを表示します

日付には、予測気温の特定の年、月、日の情報が保存されます。

years = dataset['year'] # 获取数据集中的year列
months = dataset['month'] # 获取数据集中的month列
days = dataset['day'] # 获取数据集中的day列

# datetime格式
dates = [str(int(year)) + '-' + str(int(month)) + '-' + str(int(day)) for year, month, day in zip(years, months, days)]
dates[:10]
"""
['2016-1-1',
 '2016-1-2',
 '2016-1-3',
 '2016-1-4',
 '2016-1-5',
 '2016-1-6',
 '2016-1-7',
 '2016-1-8',
 '2016-1-9',
 '2016-1-10']
"""

dates = [datetime.datetime.strptime(date, '%Y-%m-%d') for date in dates]
dates[:10]
"""
[datetime.datetime(2016, 1, 1, 0, 0),
 datetime.datetime(2016, 1, 2, 0, 0),
 datetime.datetime(2016, 1, 3, 0, 0),
 datetime.datetime(2016, 1, 4, 0, 0),
 datetime.datetime(2016, 1, 5, 0, 0),
 datetime.datetime(2016, 1, 6, 0, 0),
 datetime.datetime(2016, 1, 7, 0, 0),
 datetime.datetime(2016, 1, 8, 0, 0),
 datetime.datetime(2016, 1, 9, 0, 0),
 datetime.datetime(2016, 1, 10, 0, 0)]
"""

Ⅳ X 軸は日付、Y 軸は別の日の予測気温です。

plt.subplots(nrows=2, ncols=2, figsize = (20,20))2行2列、画像サイズ20*20
fig.autofmt_xdate(rotation = 0)X軸のフォント回転角、つまり日付に対応する年月日情報の回転角です。ここでは0°です。例: 2016- 01などを横に表示

ax1.plot(dates, dataset['actual'])X 軸は日付 (年、月、日)、Y 軸は実際 (実際の実際の温度値) です。X 軸の
ax1.set_xlabel(''); ax1.set_ylabel('Temperature'); ax1.set_title('Actual Max Temp')ラベルは空、Y 軸のラベルは温度、全体のタイトルは実際です最高温度
他は同じ

plt.tight_layout(pad=1, h_pad=1, w_pad=1)
Pad: グラフのエッジとサブグラフのエッジ間のパディング
h_pad、w_pad: 隣接するサブグラフのエッジ間のパディング (高さ/幅)

# 准备画图
# 指定默认风格
plt.style.use('fivethirtyeight')

# 设置布局
fig, ((ax1, ax2), (ax3, ax4)) = plt.subplots(nrows=2, ncols=2, figsize = (20,20))# 2行 2列 画布大小为20*20
fig.autofmt_xdate(rotation = 0) # X轴的字体旋转角度，也就是dates所对应的信息显示旋转角度，这里是0°，水平显示

# 标签值
ax1.plot(dates, dataset['actual'])
ax1.set_xlabel(''); ax1.set_ylabel('Temperature'); ax1.set_title('Actual Max Temp')

# 昨天
ax2.plot(dates, dataset['temp_1'])
ax2.set_xlabel(''); ax2.set_ylabel('Temperature'); ax2.set_title('Previous Max Temp')

# 前天
ax3.plot(dates, dataset['temp_2'])
ax3.set_xlabel('Date'); ax3.set_ylabel('Temperature'); ax3.set_title('Two Days Prior Max Temp')

# 朋友预测
ax4.plot(dates, dataset['friend'])
ax4.set_xlabel('Date'); ax4.set_ylabel('Temperature'); ax4.set_title('Friend Estimate')

plt.tight_layout(pad=1, h_pad=1, w_pad=1)

ここに画像の説明を挿入

Ⅴ 非数値特徴のワンホットエンコーディング

データセット内の週の特徴は数値ではないため、ワンホットエンコーディングによって変換されます。
ここに画像の説明を挿入
このとき、ラベルは実際の列の特徴であり、これが最終的な実際の結果です。データセットは実際の列の特徴を削除し
、最後にデータセット dataset配列形式に変換する

# 标签
labels = np.array(dataset['actual'])

# 在特征中去掉标签
dataset= dataset.drop('actual', axis = 1)

# 名字单独保存一下，以备后患
dataset_list = list(dataset.columns)

# 转换成合适的格式
dataset = np.array(dataset)

dataset.shape # (348, 14)

Ⅵ 標準化

データセット内の月の一部は 1 であり、temp_1 などの他の機能は 45 など、サイズが大きく異なるため、標準に従って処理する必要があります。sklearn には標準化するための特別な前処理モジュールがあります。これにより
、後続の予測結果がより速く収束し、収束損失の値が比較的小さくなります。
StandardScaler は、各特徴の平均値が 0 であり、分散が 1 であることを保証します。

from sklearn import preprocessing
input_dataset = preprocessing.StandardScaler().fit_transform(dataset)

input_dataset[0]
"""
array([ 0.        , -1.5678393 , -1.65682171, -1.48452388, -1.49443549,
       -1.3470703 , -1.98891668,  2.44131112, -0.40482045, -0.40961596,
       -0.40482045, -0.40482045, -0.41913682, -0.40482045])
"""

これまでのところ、データセットの前処理は完了しており、データセットのロード、モデルの構築、およびその後のモデルのトレーニングの操作が開始されます。
最終的に処理されたデータセットはinput_datasetです

Ⅶ 完全なコード

import numpy as np
import pandas as pd 
import matplotlib.pyplot as plt
import torch
import torch.optim as optim
import datetime
from sklearn import preprocessing


dataset = pd.read_csv('temps.csv')
#print(dataset.shape)
#dataset.head(10)

years = dataset['year']
months = dataset['month']
days = dataset['day']

# datetime格式
dates = [str(int(year)) + '-' + str(int(month)) + '-' + str(int(day)) for year, month, day in zip(years, months, days)]
#dates[:10]

dates = [datetime.datetime.strptime(date, '%Y-%m-%d') for date in dates]
#dates[:10]


# 准备画图
# 指定默认风格
plt.style.use('fivethirtyeight')

# 设置布局
fig, ((ax1, ax2), (ax3, ax4)) = plt.subplots(nrows=2, ncols=2, figsize = (20,20))# 2行 2列 画布大小为20*20
fig.autofmt_xdate(rotation = 0)

# 标签值
ax1.plot(dates, dataset['actual'])
ax1.set_xlabel(''); ax1.set_ylabel('Temperature'); ax1.set_title('Actual Max Temp')

# 昨天
ax2.plot(dates, dataset['temp_1'])
ax2.set_xlabel(''); ax2.set_ylabel('Temperature'); ax2.set_title('Previous Max Temp')

# 前天
ax3.plot(dates, dataset['temp_2'])
ax3.set_xlabel('Date'); ax3.set_ylabel('Temperature'); ax3.set_title('Two Days Prior Max Temp')

# 朋友预测
ax4.plot(dates, dataset['friend'])
ax4.set_xlabel('Date'); ax4.set_ylabel('Temperature'); ax4.set_title('Friend Estimate')

plt.tight_layout(pad=1, h_pad=1, w_pad=1)


#dataset

# 独热编码
dataset = pd.get_dummies(dataset)
#dataset.head(5)

# 标签
labels = np.array(dataset['actual'])
# 在特征中去掉标签
dataset= dataset.drop('actual', axis = 1)
# 名字单独保存一下，以备后患
dataset_list = list(dataset.columns)
# 转换成合适的格式
dataset = np.array(dataset)
#dataset.shape


input_dataset = preprocessing.StandardScaler().fit_transform(dataset)
#input_dataset[0]

2. ネットワークモデルを構築する手順

1. データセットをロードする

この時点ではデータセットinput_dataset は配列形式であり、PyTorch トレーニングで使用されるデータ型はtensorであるため、上記で定義された
ラベルを実際の実際の温度に変換する必要があります。これが最終的な正しい結果です。y値

x = torch.tensor(input_dataset,dtype=float)
y = torch.tensor(labels,dtype=float)

2. ネットワークモデルの構築

2.1 従来法

ここでは、モデルを構築するための例として 2 層の隠れ層ネットワークを取り上げ、
ここに私自身の理解を挿入します。
ここに画像の説明を挿入

x = torch.tensor(input_dataset, dtype = float)

y = torch.tensor(labels, dtype = float)

# 权重参数初始化
weights = torch.randn((14, 128), dtype = float, requires_grad = True) 
biases = torch.randn(128, dtype = float, requires_grad = True) 
weights2 = torch.randn((128, 1), dtype = float, requires_grad = True) 
biases2 = torch.randn(1, dtype = float, requires_grad = True) 

learning_rate = 0.001 
losses = []

for i in range(1000):
    # 计算隐层
    hidden = x.mm(weights) + biases
    # 加入激活函数
    hidden = torch.relu(hidden)
    # 预测结果
    predictions = hidden.mm(weights2) + biases2
    # 通计算损失
    loss = torch.mean((predictions - y) ** 2) 
    losses.append(loss.data.numpy())
    
    # 打印损失值
    if i % 100 == 0:
        print('loss:', loss)
    #返向传播计算
    loss.backward()
    
    #更新参数
    weights.data.add_(- learning_rate * weights.grad.data)  
    biases.data.add_(- learning_rate * biases.grad.data)
    weights2.data.add_(- learning_rate * weights2.grad.data)
    biases2.data.add_(- learning_rate * biases2.grad.data)
    
    # 每次迭代都得记得清空
    weights.grad.data.zero_()
    biases.grad.data.zero_()
    weights2.grad.data.zero_()
    biases2.grad.data.zero_()

#predictions.shape

2.2 簡単な方法

input_size = input_dataset.shape[1]
hidden_size = 128
output_size = 1
batch_size = 16
my_nn = torch.nn.Sequential(
    torch.nn.Linear(input_size, hidden_size),
    torch.nn.Sigmoid(),
    torch.nn.Linear(hidden_size, output_size),
)
cost = torch.nn.MSELoss(reduction='mean')
optimizer = torch.optim.Adam(my_nn.parameters(), lr = 0.001)

# 训练网络
losses = []
for i in range(1000):
    batch_loss = []
    # MINI-Batch方法来进行训练
    for start in range(0, len(input_dataset), batch_size):
        end = start + batch_size if start + batch_size < len(input_dataset) else len(input_dataset)
        xx = torch.tensor(input_dataset[start:end], dtype = torch.float, requires_grad = True)
        yy = torch.tensor(labels[start:end], dtype = torch.float, requires_grad = True)
        prediction = my_nn(xx)
        loss = cost(prediction, yy)
        optimizer.zero_grad()
        loss.backward(retain_graph=True)
        optimizer.step()
        batch_loss.append(loss.data.numpy())
    
    # 打印损失
    if i % 100==0:
        losses.append(np.mean(batch_loss))
        print(i, np.mean(batch_loss))

3. モデル予測結果

x = torch.tensor(input_dataset, dtype = torch.float)
predict = my_nn(x).data.numpy()


# 转换日期格式
dates = [str(int(year)) + '-' + str(int(month)) + '-' + str(int(day)) for year, month, day in zip(years, months, days)]
dates = [datetime.datetime.strptime(date, '%Y-%m-%d') for date in dates]

# 创建一个表格来存日期和其对应的标签数值
true_data = pd.DataFrame(data = {
    
    'date': dates, 'actual': labels})

# 同理，再创建一个来存日期和其对应的模型预测值
months = dataset[:, dataset_list .index('month')]
days = dataset[:, dataset_list .index('day')]
years = dataset[:, dataset_list .index('year')]

test_dates = [str(int(year)) + '-' + str(int(month)) + '-' + str(int(day)) for year, month, day in zip(years, months, days)]

test_dates = [datetime.datetime.strptime(date, '%Y-%m-%d') for date in test_dates]

predictions_data = pd.DataFrame(data = {
    
    'date': test_dates, 'prediction': predict.reshape(-1)})

4. 図面表示

# 真实值
plt.plot(true_data['date'], true_data['actual'], 'b-', label = 'actual')

# 预测值
plt.plot(predictions_data['date'], predictions_data['prediction'], 'ro', label = 'prediction')
plt.xticks(rotation = 30); 
plt.legend()

# 图名
plt.xlabel('Date'); plt.ylabel('Maximum Temperature (F)'); plt.title('Actual and Predicted Values');

ここに画像の説明を挿入

5、完全なコード