Uczenie maszynowe i sztuczne sieci neuronowe/DrzewaDecyzyjne cw - Historia wersji

Jarekz: /* Przykład zbiór danych Iris */

2018-12-07T12:57:45Z

Przykład zbiór danych Iris

Jarekz: /* Przykład zbiór danych Iris */

2018-12-07T12:30:02Z

Przykład zbiór danych Iris

Jarekz: /* Zadanie */

2018-04-25T06:27:35Z

Zadanie

Jarekz: /* Analiza struktury drzewa */

2018-04-25T06:26:04Z

Analiza struktury drzewa

Jarekz: /* Zadanie */

2018-04-25T06:20:53Z

Zadanie

Jarekz: /* Zadanie */

2018-04-25T06:13:36Z

Zadanie

Jarekz o 17:18, 21 mar 2018

2018-03-21T17:18:48Z

Jarekz: /* Wstęp */

2016-01-04T13:25:16Z

Wstęp

Jarekz: /* Przykład klasyfikacji cyfr */

2016-01-04T12:49:54Z

Przykład klasyfikacji cyfr

Jarekz: /* Przykład klasyfikacji cyfr */

2016-01-04T12:44:29Z

Przykład klasyfikacji cyfr

@@ Linia 32: / Linia 32: @@
 iris = load_iris()
 clf = tree.DecisionTreeClassifier()
-clf = clf.fit(iris.data, iris.target)
+clf.fit(iris.data, iris.target)
 </source>
 Po wytrenowaniu można zilustrować wynik za pomocą narzędzia [http://www.graphviz.org/ Graphiz] (wymaga to zainstalowania w systemie tego narzędzia), oraz doinstalowania do pythona biblioteki  <tt>pydot</tt>:

@@ Linia 41: / Linia 41: @@
 tree.export_graphviz(clf, out_file=dot_data)
 graph = pydot.graph_from_dot_data(dot_data.getvalue())
-graph.write_pdf("iris.pdf")
+graph[0].write_pdf("iris.pdf")
 </source>
@@ Linia 53: / Linia 53: @@
                           special_characters=True)
 graph = pydot.graph_from_dot_data(dot_data.getvalue())
-Image(graph.create_png())
+Image(graph[0].create_png())
 </source>
 Po dopasowaniu model ten może być zastosowany do przewidywania przynależności przykładów do klas:
@@ Linia 63: / Linia 63: @@
 clf.predict_proba(iris.data[:1, :])
 </source>
 =Przykład klasyfikacji cyfr=

@@ Linia 154: / Linia 154: @@
 </source>
-==Zadanie==
+==Zadanie: Badanie zależności jakości klasyfikacji od hiperparametrów drzewa==
 Bazując na powyższym kodzie zbadaj:
 * zależność miary F1 od parametru:

← poprzednia wersja		Wersja z 06:26, 25 kwi 2018
Linia 164:		Linia 164:
	Proszę przeanalizować ten tutorial:		Proszę przeanalizować ten tutorial:
	http://scikit-learn.org/stable/auto_examples/tree/plot_unveil_tree_structure.html#sphx-glr-auto-examples-tree-plot-unveil-tree-structure-py		http://scikit-learn.org/stable/auto_examples/tree/plot_unveil_tree_structure.html#sphx-glr-auto-examples-tree-plot-unveil-tree-structure-py
		+
		+	Na tej podstawie przeanalizować strukturę drzewa wyhodowanego do rozpoznawania cyfr.

← poprzednia wersja		Wersja z 06:20, 25 kwi 2018
Linia 160:		Linia 160:
	** ilości cech wykorzystanych w klasyfikacji		** ilości cech wykorzystanych w klasyfikacji
	* Dla optymalnych parametrów DEPTH i MAX_FEAT zbadaj zależność dokładności (accuracy) od liczby przykładów w zbiorze uczącym		* Dla optymalnych parametrów DEPTH i MAX_FEAT zbadaj zależność dokładności (accuracy) od liczby przykładów w zbiorze uczącym
		+
		+	==Analiza struktury drzewa==
		+	Proszę przeanalizować ten tutorial:
		+	http://scikit-learn.org/stable/auto_examples/tree/plot_unveil_tree_structure.html#sphx-glr-auto-examples-tree-plot-unveil-tree-structure-py

@@ Linia 159: / Linia 159: @@
 ** głębokości drzewa
 ** ilości cech wykorzystanych w klasyfikacji
-* Dla optymalnych parametrów DEPTH i MAX_FEAT zbadaj zależność dokładności (accuracy) od ilości przykładów w zbiorze uczącym
+* Dla optymalnych parametrów DEPTH i MAX_FEAT zbadaj zależność dokładności (accuracy) od liczby przykładów w zbiorze uczącym

← poprzednia wersja		Wersja z 17:18, 21 mar 2018
Linia 1:		Linia 1:
		+	[[Uczenie_maszynowe_i_sztuczne_sieci_neuronowe_cw]]/Drzewa decyzyjne
	=Wstęp=		=Wstęp=
	W bibliotece scikit-learn drzewa decyzyjne implementowane są przez klasę [http://scikit-learn.org/stable/modules/generated/sklearn.tree.DecisionTreeClassifier.html#sklearn.tree.DecisionTreeClassifier DecisionTreeClassifier]		W bibliotece scikit-learn drzewa decyzyjne implementowane są przez klasę [http://scikit-learn.org/stable/modules/generated/sklearn.tree.DecisionTreeClassifier.html#sklearn.tree.DecisionTreeClassifier DecisionTreeClassifier]

@@ Linia 1: / Linia 1: @@
 =Wstęp=
 W bibliotece scikit-learn drzewa decyzyjne implementowane są przez klasę [http://scikit-learn.org/stable/modules/generated/sklearn.tree.DecisionTreeClassifier.html#sklearn.tree.DecisionTreeClassifier DecisionTreeClassifier]
 Aby nauczyć taki klasyfikator potrzebujemy tablicę X o rozmiarach [N_przykładów, N_cech] i wektor Y określający przynależność przykładów w X do klas.

← poprzednia wersja		Wersja z 12:49, 4 sty 2016
Linia 150:		Linia 150:
	print(...)		print(...)
	</source>		</source>
		+
		+	==Zadanie==
		+	Bazując na powyższym kodzie zbadaj:
		+	* zależność miary F1 od parametru:
		+	** głębokości drzewa
		+	** ilości cech wykorzystanych w klasyfikacji
		+	* Dla optymalnych parametrów DEPTH i MAX_FEAT zbadaj zależność dokładności (accuracy) od ilości przykładów w zbiorze uczącym

@@ Linia 63: / Linia 63: @@
 =Przykład klasyfikacji cyfr=
 <source lang = python >
@@ Linia 72: / Linia 82: @@
 from sklearn import tree
 from sklearn.cross_validation import train_test_split
 from scipy.io import loadmat
 ###############################################################################
 # podglądanie obrazków cyfr
+# funkcja pomocnicza
 def plot_gallery(images, titles, h, w, n_row=3, n_col=4):
      plt.figure(figsize=(1.8 * n_col, 2.4 * n_row))
@@ Linia 108: / Linia 116: @@
 ###############################################################################
 # Wypisz dane o zbiorze cyfr
-print("dane zawierają %d cyfr po %d pixli"
+print("dane zawierają %d cyfr po %d pixli" % (X.shape[0], X.shape[1]))
 # Pokaż kilka przykładowych cyfr:
@@ Linia 116: / Linia 123: @@
 ###############################################################################
-# Podziel zbiór na dane treningowe i testowe
+# Podziel zbiór na dane treningowe i testowe za pomocą funkcji opisanej tu w proporcji 5:1 :
-X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42)
+# http://scikit-learn.org/stable/modules/generated/sklearn.cross_validation.train_test_split.html
 ###############################################################################
-−
+#
-DEPTH =8
+DEPTH = 10
-MAX_FEAT=50
+MAX_FEAT = 100
-clf = tree.DecisionTreeClassifier(criterion='entropy',
+clf = ... # instancja klasyfikatora DecisionTreeClassifier
-        splitter='best',
+clf = ...# fitowanie do danych treningowych
-        max_depth=DEPTH,
+y_pred = ...# predykcja na danych testowych
@@ Linia 147: / Linia 143: @@
 plt.show()
-#F1[MAX_FEAT] = f1_score(y_test, y_pred,average='weighted')
+# uzupełnij miary klasyfikacji
 print("confusion matrix:")
-print(confusion_matrix(y_test, y_pred))
+print(...)
-print(classification_report(y_test, y_pred, labels=range(0,10)))
+print("raport klasyfikacji:")
+print(...)
 </source>