Bài giảng Phân tích và thiết kế thuật toán - Bài 4: Thiết kế thuật toán Chia để trị - Divide&Conquer

Nội dung text: Bài giảng Phân tích và thiết kế thuật toán - Bài 4: Thiết kế thuật toán Chia để trị - Divide&Conquer

1. 2/2/2017 Phân tích và Thiết kế THUẬT TOÁN Hà Đại Dương duonghd@mta.edu.vn Web: fit.mta.edu.vn/~duonghd Bài 4 - Thiết kế thuật toán Chia để trị - Divide&Conquer PHÂN TÍCH VÀ THIẾT KẾ THUẬ TOÁN NỘI DUNG I. Giới thiệu II. Lược đồ chung III. Bài toán áp dụng IV. Bài tập 1
2. 2/2/2017 I. Giới thiệu . Là một phương pháp được áp dụng rộng rãi . Ý tưởng chung là phân rã bài toán thành bài toán nhỏ hơn “độc lập” với nhau. . Giải các bài toán con theo cùng 1 cách thức . “Tổng hợp” lời các bài toán con để có được kết quả bài toán ban đầu. . Tư tưởng chung của cách tiếp cận Chia để trị II. Lược đồ chung Chia: • Bằng cách nào đó chia tập hợp các đối tượng của bài toán thành bài toán con “độc lập” • Tiếp tục chia các bài toán con cho đến khi có thể giải trực tiếp (không cần, hoặc không thể chia nhỏ nữa) Trị: • Trên các bài toán con thực hiện cùng một cách thức: Chia nhỏ nếu cần hoặc giải trực tiếp Tổng hợp: • Khi mỗi bài toán con được giải, tổng hợp để có kết quả bài toán ban đầu. II. Lược đồ chung 2
3. 2/2/2017 III. Bài toán áp dụng 1. Tìm kiếm nhị phân The Manhattan phone book has 1,000,000+ entries. How is it possible to locate a name by examining just a tiny, tiny fraction of those entries? III. Bài toán áp dụng 1. Tìm kiếm nhị phân To find the page containing Pat Reed’s number while (Phone book is longer than 1 page) Open to the middle page. Key idea of if “Reed” comes before the first entry, “phone book Rip and throw away the 2nd half. search”: repeated halving else Rip and throw away the 1st half. end end III. Bài toán áp dụng 1. Tìm kiếm nhị phân Original: 3000 pages After 1 rip: 1500 pages After 2 rips: 750 pages After 3 rips: 375 pages What happens to the After 4 rips: 188 pages phone book length? After 5 rips: 94 pages : After 12 rips: 1 page 3
4. 2/2/2017 III. Bài toán áp dụng 1. Tìm kiếm nhị phân • Repeatedly halving the size of the “search space” is the main idea behind the method of binary search. • An item in a sorted array of length n can be located with just log2 n comparisons. n log2(n) 100 7 • “Savings” is significant! 1000 10 10000 13 III. Bài toán áp dụng 1 2 3 4 5 6 7 8 9 10 11 12 v 12 15 33 35 42 45 51 62 73 75 86 98 Binary search: target x = L: 1 70 v(Mid) <= x Mid: 6 So throw away the left R: 12 half Insight Through Computing III. Bài toán áp dụng 1 2 3 4 5 6 7 8 9 10 11 12 v 12 15 33 35 42 45 51 62 73 75 86 98 Binary search: target x = L: 6 x < v(Mid) 70 Mid: 9 So throw away the R: 12 right half Insight Through Computing 4
5. 2/2/2017 III. Bài toán áp dụng 1 2 3 4 5 6 7 8 9 10 11 12 v 12 15 33 35 42 45 51 62 73 75 86 98 Binary search: target x = L: 6 v(Mid) <= x 70 Mid: 7 So throw away the left R: 9 half Insight Through Computing III. Bài toán áp dụng 1 2 3 4 5 6 7 8 9 10 11 12 v 12 15 33 35 42 45 51 62 73 75 86 98 Binary search: target x = L: 7 v(Mid) <= x 70 Mid: 8 So throw away the left R: 9 half Insight Through Computing III. Bài toán áp dụng 1 2 3 4 5 6 7 8 9 10 11 12 v 12 15 33 35 42 45 51 62 73 75 86 98 Binary search: target x = L: 8 Done because 70 Mid: 8 R-L = 1 R: 9 Insight Through Computing 5
6. 2/2/2017 III. Bài toán áp dụng 1. Tìm kiếm nhị phân . Mô tả thuật toán: • Vào A[1 n] • Ra: Chỉ số k = -1 nếu không tìm thấy 1<=k<=n nếu tìm thấy • Độ phức tạp thuật toán: O(log2n) III. Bài toán áp dụng 1. Tìm kiếm nhị phân . Cài đặt: III. Bài toán áp dụng 2. Tìm giá trị MIN, MAX . Phát biểu bài toán: Cho mảng A có n phần tử. Tìm giá trị lớn nhất (MAX) và giá trị nhỏ nhất (MIN) trên mảng A. . Tìm kiếm “nhị phân”: . Chia đôi mảng A, tìm kiếm MIN, MAX trên mỗi nữa sau đó tổng hợp kết quả trên hai nửa đó để tìm MIN, MAX của cả mảng A. • Nếu đoạn chia chỉ có một phần tử thì MIN=MAX=phần tử đó. 6
7. 2/2/2017 III. Bài toán áp dụng 2. Tìm giá trị MIN, MAX . Mô tả thuật toán: • Vào: A[l r] • Ra: MIN=Min(A[1], ,A[r]) MAX=Max(A[1], ,A[r]) III. Bài toán áp dụng 2. Tìm giá trị MIN, MAX . Độ phức tạp thuật toán: III. Bài toán áp dụng 2. Tìm giá trị MIN, MAX . Cài đặt: 7
8. 2/2/2017 III. Bài toán áp dụng 3. Thuật toán MergeSort • Phát biểu bài toán: Cho mảng gồm n phần tử A[1 n], sắp xếp mảng A theo thứ tự tăng dần • Ý tưởng: • Nếu có hai dãy a và b đã được sắp xếp, tiến hành trộn hai dãy này thành dãy c đã được sắp xếp. • Nếu chia nhỏ mảng cần sắp xếp thành các đoạn 1 phần tử thì nó là đoạn được sắp xếp • Tiến hành ghép các đoạn nhỏ thành các đoạn lớn đã được sắp xếp III. Bài toán áp dụng 3. Thuật toán MergeSort If I have two helpers, I’d • Give each helper half the array to sort • Then I get back the sorted What if those two helpers subarrays and merge them. each had two sub-helpers? And the sub-helpers each had two sub-sub-helpers? And III. Bài toán áp dụng H E M G B K A Q F L P D R C J N 3. Thuật toán MergeSort H E M G B K A Q F L P D R C J N 8
9. 2/2/2017 III. Bài toán áp dụng 3. Thuật toán MergeSort H E M G B K A Q F L P D R C J N H E M G B K A Q F L P D R C J N III. Bài toán áp dụng 3. Thuật toán MergeSort H E M G B K A Q F L P D R C J N H E M G B K A Q F L P D R C J N III. Bài toán áp dụng 3. Thuật toán MergeSort H E M G B K A Q F L P D R C J N 9
10. 2/2/2017 III. Bài toán áp dụng 3. Thuật toán MergeSort E H G M B K A Q F L D P C R J N H E M G B K A Q F L P D R C J N Insight Through Computing III. Bài toán áp dụng 3. Thuật toán MergeSort E G H M A B K Q D F L P C J N R E H G M B K A Q F L D P C R J N III. Bài toán áp dụng 3. Thuật toán MergeSort A B E G H K M Q C D F J L N P R E G H M A B K Q D F L P C J N R 10
11. 2/2/2017 III. Bài toán áp dụng 3. Thuật toán MergeSort A B C D E F G H J K L M N P Q R A B E G H K M Q C D F J L N P R III. Bài toán áp dụng 3. Thuật toán MergeSort H E M G B K A Q F L P D R C J N A B C D E F G H J K L M N P Q R III. Bài toán áp dụng 3. Thuật toán MergeSort • Ý tưởng thao tác trộn: • Duyệt trên dãy a tại vị trí i • Duyệt trên dãy b tại vị trí j • Nếu a[i]>b[j] thì thêm b[j] và trong dãy c tăng biến j ngược lại thêm a[i] vào dãy và tăng biến i • Nếu một trong hai dãy hết trước tiến hành đưa toàn bộ dãy còn lại vào trong dãy c • Áp dụng trong trường hợp a, b là hai đoạn của mảng • a[l t], a[t+1 r] • c[l r] • Để thuận tiện trong xử lý tiến hành chuyển mảng đã sắp xếp về mảng a 11
12. 2/2/2017 III. Bài toán áp dụng 3. Thuật toán MergeSort • Input: a[l t], a[t+1 r] đã được sắp xếp • Ouput: a[l r] được sắp xếp không giảm 1. i=l 2. j=t+1 5. while (i<=t) 3. p=l; c[p]=a[i] 4. while (i<=t && j<=r) i++ p++ a. if(a[i]<a[j]) 6. while (j<=r) c[p]=a[i] c[p]=a[j] i++ j++ b. Else p++ c[p]=a[j]; 7. for (i=l; i<=r ;i++) j++ a[i]=c[i]; c. p++ III. Bài toán áp dụng 3. Thuật toán MergeSort 12 33 35 45 15 42 55 65 75 12 15 33 35 42 45 55 65 75 Merge x: 12 33 35 45 ix: 1 y: 15 42 55 65 75 iy: 1 z: iz: 1 ix<=4 and iy<=5: x(ix) <= y(iy) ??? 12
13. 2/2/2017 Merge x: 12 33 35 45 ix: 1 y: 15 42 55 65 75 iy: 1 z: 12 iz: 1 ix<=4 and iy<=5: x(ix) <= y(iy) YES Merge x: 12 33 35 45 ix: 2 y: 15 42 55 65 75 iy: 1 z: 12 iz: 2 ix<=4 and iy<=5: x(ix) <= y(iy) ??? Merge x: 12 33 35 45 ix: 2 y: 15 42 55 65 75 iy: 1 z: 12 15 iz: 2 ix<=4 and iy<=5: x(ix) <= y(iy) NO 13
14. 2/2/2017 Merge x: 12 33 35 45 ix: 2 y: 15 42 55 65 75 iy: 2 z: 12 15 iz: 3 ix<=4 and iy<=5: x(ix) <= y(iy) ??? Merge x: 12 33 35 45 ix: 2 y: 15 42 55 65 75 iy: 2 z: 12 15 33 iz: 3 ix<=4 and iy<=5: x(ix) <= y(iy) YES Merge x: 12 33 35 45 ix: 3 y: 15 42 55 65 75 iy: 2 z: 12 15 33 iz: 4 ix<=4 and iy<=5: x(ix) <= y(iy) ??? 14
15. 2/2/2017 Merge x: 12 33 35 45 ix: 3 y: 15 42 55 65 75 iy: 2 z: 12 15 33 35 iz: 4 ix<=4 and iy<=5: x(ix) <= y(iy) YES Merge x: 12 33 35 45 ix: 4 y: 15 42 55 65 75 iy: 2 z: 12 15 33 35 iz: 5 ix<=4 and iy<=5: x(ix) <= y(iy) ??? Merge x: 12 33 35 45 ix: 4 y: 15 42 55 65 75 iy: 2 z: 12 15 33 35 42 iz: 5 ix<=4 and iy<=5: x(ix) <= y(iy) NO 15
16. 2/2/2017 Merge x: 12 33 35 45 ix: 4 y: 15 42 55 65 75 iy: 3 z: 12 15 33 35 42 iz: 5 ix 4 16
17. 2/2/2017 Merge x: 12 33 35 45 ix: 5 y: 15 42 55 65 75 iy: 3 z: 12 15 33 35 42 45 55 iz: 6 ix > 4: take y(iy) Merge x: 12 33 35 45 ix: 5 y: 15 42 55 65 75 iy: 4 z: 12 15 33 35 42 45 55 iz: 8 iy <= 5 Merge x: 12 33 35 45 ix: 5 y: 15 42 55 65 75 iy: 4 z: 12 15 33 35 42 45 55 65 iz: 8 iy <= 5 17
18. 2/2/2017 Merge x: 12 33 35 45 ix: 5 y: 15 42 55 65 75 iy: 5 z: 12 15 33 35 42 45 55 65 iz: 9 iy =r) return ; 2. t=(l+r)/2 3. mergesort(l,t); 4. mergesort(t+1,r); 5. merge(a[l t],a[t+1 r); 18
19. 2/2/2017 III. Bài toán áp dụng 3. Thuật toán MergeSort • Thuật toán sắp xếp trộn mergesort 0 1 2 3 4 5 6 • Input: a[l r] 3 1 7 8 2 6 9 • Ouput: a[l r] đã được sắp xếp 3 1 7 8 2 6 9 1. if(l>=r) return ; 3 1 7 8 2 6 9 2. t=(l+r)/2 3. mergesort(l,t); 1 3 7 8 2 6 9 4. mergesort(t+1,r); 1 3 7 8 2 6 9 5. merge(a[l t],a[t+1 r); 1 2 3 6 7 8 9 III. Bài toán áp dụng 3. Thuật toán MergeSort • Đánh giá độ phức tạp • Số phép so sánh: n*log(n) • Số phép gáp: 2*n*log(n) • Số phép gán chỉ số: 2*n • Độ phức tạp phép toán: O(nlog(n)) III. Bài toán áp dụng 3. Thuật toán MergeSort 27 10 12 20 25 13 15 22 • Ví dụ 27 10 12 20 25 13 15 22 27 10 12 20 25 13 15 22 27 10 12 20 25 13 15 22 10 27 12 20 13 25 15 22 10 12 20 27 13 15 22 25 10 12 13 15 20 22 25 27 19
20. 2/2/2017 III. Bài toán áp dụng 4. Thuật toán QuickSort . Phát biểu bài toán: Cho mảng gồm n phần tử A[1 n], sắp xếp mảng A theo thứ tự tăng dần. . Ý tưởng: • Cho một dãy, chọn một phần tử ở giữa, chia đoạn thành 2 phần • Chuyển các phần tử nhỏ, hoặc bằng đến trước, các phần tử lớn hơn về sau • Sẽ được nửa đầu bé hơn nửa sau • Lặp lại việc chuyển đổi cho các phần tử nửa đầu, và nửa sau đến lúc số phần tử là 1 III. Bài toán áp dụng 4. Thuật toán QuickSort . Phát biểu bài toán: Cho mảng gồm n phần tử A[1 n], sắp xếp mảng A theo thứ tự tăng dần. . Ý tưởng: • Thuật toán ban đầu là chia: cố gắng chia thành hai đoạn khác nhau • Trị: thực hiện các thuật toán sắp xếp trên các đoạn con • Thực hiện kết hợp: thuật toán tự kết hợp kết quả III. Bài toán áp dụng 4. Thuật toán QuickSort . Phân đoạn (chia): • Chọn một phần tử chốt x (đầu tiên) • Duyệt từ vị trí tiếp theo sang phải tìm vị trí phần tử đầu tiên >= x, i • Duyệt từ phải sang trái, tìm vị trí phần tử đầu tiên <x, j • Nếu i<j thì hoán đổi vị trí • Tiếp tục đến lúc j<i 20
21. 2/2/2017 III. Bài toán áp dụng 4. Thuật toán QuickSort • Thuật toán: partition • Input: A[l r], l,r: đoạn cần phân chia • Ouput: A[l r], i chỉ số phân chia 1. X=a[l] 2. i=l+1; 3. j=r; 4. While (i =i && a[j]>=x) j - - c. If(i =i && a[j]>=x) j— c. If(i =r) return; 2. i=partition(A,l,r) 3. quicksort(A,l,i-1) 4. quicksort(A,i+1,r) 21
22. 2/2/2017 III. Bài toán áp dụng A 0 1 2 3 4 5 6 4. Thuật toán QuickSort 3 1 7 8 2 6 9 • Thuật toán: quicksort 3 1 2 8 7 6 9 • Input: A[l r]: đoạn cần sắp xếp Part 2 1 3 8 7 6 9 • Ouput: A[l r] đã sắp xếp 1. If(l>=r) return; 2. i=partition(A,l,r) 2 1 8 7 6 9 Part 3. quicksort(A,l,i-1) 1 2 6 7 8 9 4. quicksort(A,i+1,r) 1 6 7 9 Part 6 7 7 1 2 3 6 7 8 9 III. Bài toán áp dụng 4. Thuật toán QuickSort • Đánh giá độ phức tạp • Số phép toán gán giá trị: 3 * n/2 * h • Số phép toán so sánh: n*h • Số phép toán gán chỉ số: n*h • Trường hợp xấu nhất: h=n • Trường hợp trung bình: h = log(n) • Độ phức tạp trường hợp xấu nhất: O(n2) • Độ phức tạp trường hợp trung bình: O(nlog(n)) IV. Bài tập Cho mảng A={3, 5, 8, 9, 4, 2, 7, 5, 3,9,8} 1. Thực hiện từng bước thuật toán MIN, MAX với mảng A. 2. Thực hiện thuật toán QuickSort và thể hiện kết quả từng bước với mảng A. 3. Thực hiện từng bước thuật toán tìm kiếm nhị phân các giá trị x=5, 6, 7 với mảng đã sắp xếp ở bài 2. 4. Thực hiện thuật toán MergeSort và thể hiện kết quả từng bước với mảng A. 5. Cài đặt thuật toán tìm kiếm nhị phân, đánh giá bằng thực nghiệm và so sánh với lý thuyết. 6. Cài đặt thuật toán MIN-MAX, đánh giá bằng thực nghiệm và so sánh với lý thuyết. 7. Cài đặt chương trình QuickSort, đánh giá bằng thực nghiệm và so sánh với lý thuyết. 8. Cài đặt chương trình MergeSort, đánh giá bằng thực nghiệm và so sánh với lý thuyết. 9. Thử nghiệm QuickSort và MergeSort trên cùng các bộ dữ liệu, so sánh thời gian thực hiện các thuật toán đó. 22
23. 2/2/2017 NỘI DUNG BÀI HỌC I. Giới thiệu II. Lược đồ chung III. Bài toán áp dụng IV. Bài tập 23