READING PASSAGE 2

You should spend about 20 minutes on Questions 14—26, which are based on Reading

Passage 2 below.

Living with artificial intelligence

Powerful artificial intelligence (A!) needs to be reliably aligned with human values, but does this mean AI will eventually have to police those values?

(1)  This has been the decade of Al, with one astonishing feat after another. A chess-playing Al that can defeat not only all human chess players, but also all previous human-programmed chess machines, after learning the game in just four hours? That’s yesterday’s news, what’s next? True, these prodigious accomplishments are all in so-called narrow Al, where machines perform highly specialised tasks. But many experts believe this restriction is very temporary. By mid-century, we may have artificial general intelligence (AGI) -machines that can achieve human-level performance on the full range of tasks that we ourselves can tackle.

(2)  If so, there’s little reason to think it will stop there. Machines will be free of many of the physical constraints on human intelligence. Our brains run at slow biochemical processing speeds on the power of a light bulb, and their size is restricted by the dimensions of the human birth canal. It is remarkable what they accomplish, given these handicaps. But they may be as far from the physical limits of thought as our eyes are from the incredibly powerful Webb Space Telescope.

(3)  Once machines are better than us at designing even smarter machines, progress towards these limits could accelerate. What would this mean for us? Could we ensure a safe and worthwhile coexistence with such machines? On the plus side, Al is already useful and profitable for many things, and super Al might be expected to be super useful and super profitable. But the more powerful Al becomes, the more important it will be to specify its goals with great care. Folklore is full of tales of people who ask for the wrong thing, with disastrous consequences -King Midas, for example, might have wished that everything he touched turned to gold, but didn’t really intend this to apply to his breakfast.

(4)  So we need to create powerful Al machines that are ‘human-friendly’-that have goals reliably aligned with our own values. One thing that makes this task difficult is that we are far from reliably human-friendly ourselves. We do many terrible things to each other and to many other creatures with whom we share the planet. If superintendent machines don’t do a lot better than us, we’ll be in deep trouble. We’ll have powerful new intelligence amplifying the dark sides of our own fallible natures.

(5)  For safety’s sake, then, we want the machines to be ethically as well as cognitively superhuman. We want them to aim for the moral high ground, not for the troughs in which many of us spend some of our time. Luckily they’ll be smart enough for the job. If there are routes to the moral high ground, they’ll be better than us at finding them, and steering us in the right direction.

(6)  However, there are two big problems with this utopian vision. One is how we get the machines started on the journey, the other is what it would mean to reach this destination. The ‘getting started’ problem is that we need to tell the machines what they’re looking for with sufficient clarity that we can be confident they will find it- whatever ‘it’ actually turns out to be. This won’t be easy, given that we are tribal creatures and conflicted about the ideals ourselves. We often ignore the suffering of strangers, and even contribute to it, at least indirectly. How then, do we point machines in the direction of something better?

(7)  As for the ‘destination’ problem, we might, by putting ourselves in the hands of these moral guides and gatekeepers, be sacrificing our own autonomy -an important part of what makes us human. Machines who are better than us at sticking to the moral high ground may be expected to discourage some of the lapses we presently take for granted. We might lose our freedom to discriminate in favour of our own communities, for example.

(8)  Loss of freedom to behave badly isn’t always a bad thing, of course: denying ourselves the freedom to put children to work in factories, or to smoke in restaurants are signs of progress. But are we ready for ethical silicon police limiting our options? They might be so good at doing it that we won’t notice them; but few of us are likely to welcome such a future.

(9)  These issues might seem far-fetched, but they are to some extent already here. Al already has some input into how resources are used in our National Health Service (NHS) here in the UK, for example. If it was given a greater role, it might do so much more efficiently than humans can manage, and act in the interests of taxpayers and those who use the health system. However, we’d be depriving some humans (e.g. senior doctors) of the control they presently enjoy. Since we’d want to ensure that people are treated equally and that policies are fair, the goals of Al would need to be specified correctly.

(10) We have a new powerful technology to deal with -itself, literally, a new way of thinking. For our own safety, we need to point these new thinkers in the right direction, and get them to act well for us. It is not yet clear whether this is possible, but if it is, it will require a cooperative spirit, and a willingness to set aside self-interest.

(11) Both general intelligence and moral reasoning are often thought to be uniquely human capacities. But safety seems to require that we think of them as a package: if we are to give general intelligence to machines, we’ll need to give them moral authority, too. And where exactly would that leave human beings? All the more reason to think about the destination now, and to be careful about what we wish for.

Questions 14-19

Choose the correct letter, A, B, C or D.

Write the correct letter in boxes 14-19 on your answer sheet.

14 What point does the writer make about Al in the first paragraph?

A It is difficult to predict how quickly Al will progress.

B Much can be learned about the use of Al in chess machines.

C The future is unlikely to see limitations on the capabilities of Al.

B Experts disagree on which specialised tasks Al will be able to perform.

15 What is the writer doing in the second paragraph?

A explaining why machines will be able to outperform humans

B describing the characteristics that humans and machines share

C giving information about the development of machine intelligence

B indicating which aspects of humans are the most advanced

16 Why does the writer mention the story of King Midas?

A to compare different visions of progress

B to illustrate that poorly defined objectives can go wrong

C to emphasise the need for cooperation

B to point out the financial advantages of a course of action

17 What challenge does the writer refer to in the fourth paragraph?

A encouraging humans to behave in a more principled way

B deciding which values we want Al to share with us

C creating a better world for all creatures on the planet

B ensuring Al is more human-friendly than we are ourselves

18 What does the writer suggest about the future of Al in the fifth paragraph?

A The safety of machines will become a key issue.

B It is hard to know what impact machines will have on the world.

C Machines will be superior to humans in certain respects.

D Many humans will oppose machines having a wider role.

19 Which of the following best summarises the writer’s argument in the sixth paragraph?

A More intelligent machines will result in greater abuses of power.

B Machine learning will share very few features with human learning.

C There are a limited number of people with the knowledge to program machines.

B Human shortcomings will make creating the machines we need more difficult.

Questions 20-23

Do the following statements agree with the claims of the writer in Reading Passage 2?

In boxes 20-23 on your answer sheet, write

NOT GIVEN if it is impossible to say what the writer thinks about this

YES if the statement agrees with the claims of the writer

NO if the statement contradicts the claims of the writer

20 Machines with the ability to make moral decisions may prevent us from promoting the interests of our communities.

21 Silicon police would need to exist in large numbers in order to be effective.

22 Many people are comfortable with the prospect of their independence being restricted by machines.

23 If we want to ensure that machines act in our best interests, we all need to work together.

Questions 24-26

Complete the summary using the list of phrases, A-F, below.

Write the correct letter, A-F, in boxes 24-26 on your answer sheet.

Using Al in the UK health system

Al currently has a limited role in the way 24…………. are allocated in the health service. The positive aspect of Al having a bigger role is that it would be more efficient and lead to patient benefits. However, such a change would result, for example, in certain 25………….not having their current level of 26………….. It is therefore important that Al goals are appropriate so that discriminatory practices could be avoided.

A medical practitioners       B specialised tasks              C available resources

D reduced illness                 E professional authority      F technology experts

Đáp án và giải thích chi tiết:

14 Đáp án: C

Giải thích: Trong đoạn văn đầu tiên, tác giả nói “This has been the decade of Al, with one astonishing feat after another” (Đã trải qua một thập kỷ của AI, với hết thành tựu này tới thành tựu khác), nhưng những chuyên gia tin rằng sự hạn chế của AI mới chỉ là vấn đề tạm thời. Điều này chứng tỏ tương lai có thể chứng kiến khả năng vô hạn của AI. (“But many experts believe this restriction is very temporary. By mid-century, we may have artificial general intelligence (AGI) -machines that can achieve human-level performance on the full range of tasks that we ourselves can tackle.)

15 Đáp án: A

Giải thích: trong đoạn 2, tác giả cho rằng máy móc không bị các giới hạn về mặt vật lý ảnh hưởng tới trí tuệ của con người. (“Machines will be free of many of the physical constraints on human intelligence”), sau đó đưa ra ví dụ về các hạn chế của não bộ, như tốc độ xử lý hóa sinh chậm hoặc kích cỡ não nhỏ. Vì thế, tác giả đang giải thích vì sao máy móc có thể làm việc tốt hơn con người. 

16 Đáp án: B

Giải thích: Tác giả nhắc tới vua Midas trong đoạn 3 (người mong muốn chạm vào vật gì thì vật đó sẽ biến thành vàng) để minh hoạ về câu chuyện của những người đòi hỏi sai lầm dẫn tới hậu quả nghiêm trọng. Do đó đáp án là C, tác giả minh hoạt những mục tiêu nếu bị định nghĩa sai lệch có thể dẫn tới hậu quả xấu. 

17 Đáp án: D

Giải thích: trong đoạn 4, tác giả nói “we need to create powerful Al machines that are ‘human-friendly’-that have goals reliably aligned with our own values.” (Chúng ta cần tạo ra các cỗ máy AI mạnh mẽ mà thân thiện với con người – tức là có các mục tiêu tương thích với chính giá trị của chúng ta). Điều này được thể hiện trong đáp án D – bảo đảm AI thân thiện hơn chính chúng ta.

18 Đáp án C

 Giải thích: trong đoạn 5, tác giả nói rằng tương lai của AI là “If there are routes to the moral high ground, they’ll be better than us at finding them, and steering us in the right direction.” (nếu có những lộ trình với nền tảng đạo đức cao, AI sẽ giỏi hơn chúng ta trong việc tìm kiếm và đưa chúng ta đi đúng hướng). Điều này được paraphrased lại trong đáp án C, tức là máy móc sẽ giỏi hơn chúng ta trong một số lĩnh vực nhất định. 

19 Đáp án: D 

Giải thích: trong đoạn 6, có thể tóm tắt luận điểm của tác giả như sau: có 2 vấn đề trong quá trình tạo ra AI (cách bắt đầu và ý nghĩa). Hai vấn đề này gây ra khó khăn bởi chúng ta là sinh vật sống theo nhóm và sẽ mâu thuẫn giữa các lý tưởng, như phớt lờ khổ đau của người lạ, thậm chí là đóng góp vào các khổ đau đó. Chính vì thế đáp án là D – những thiếu sót của con người sẽ khiến chế tạo ra máy móc trở nên khó khăn hơn. 

20 Đáp án: YES

Giải thích:  Thông tin nằm trong đoạn 7, câu cuối “We might lose our freedom to discriminate in favour of our own communities, for example.” (Chúng ta có thể mất đi quyền tự do để phân định theo chiều hướng tốt cho cộng đồng của chính chúng ta). 

21 Đáp án: NOT GIVEN

Giải thích: Thông tin về “silicon police” nằm ở đoạn 8 “But are we ready for ethical silicon police limiting our options?” (Liệu rằng chúng ta đã sẵn sàng để những cảnh sát làm bằng silicon có đạo đức (ý nói là cảnh sát người máy được điều khiển bởi AI) hạn chế lựa chọn của chúng ta không?). Đoạn văn không nhắc gì tới việc cảnh sát silicon phải tồn tại với số lượng lớn thì mới hiệu quả. 

22 Đáp án: NO

Giải thích: Thông tin nằm trong đoạn 8, câu “few of us are likely to welcome such a future.” (hiếm có ai trong chúng ta lại chào đón một tương lai như thế). Thông tin này trái ngược trong câu hỏi (nhiều người thoải mái với viễn cảnh sự độc lập của họ bị hạn chế bởi máy móc). 

23 Đáp án YES 

Giải thích: Thông tin nằm trong đoạn 10, câu “it will require a cooperative spirit, and a willingness to set aside self-interest.” (điều này yêu cầu một tinh thần hợp tác, và sự sẵn sàng đặt lợi ích cá nhân sang một bên). Thông tin này phù hợp với câu hỏi, nếu chúng ta muốn bảo đảm rằng máy móc hành động theo lợi ích của chúng ta, chúng ta cần phải làm việc cùng với nhau. 

24 Đáp án: C 

Giải thích: AI hiện nay có vai trò hạn chế trong cách mà các tài nguyên sẵn có được phân bổ trong ngành dịch vụ sức khỏe. Thông tin này được tìm thấy trong đoạn 9, câu “Al already has some input into how resources are used in our National Health Service (NHS) here in the UK. If it was given a greater role, it might do so much more efficiently than humans can manage…”, tức là AI chỉ đưa một số thông tin đầu vào cho việc phân bổ nguồn tài nguyên, và nếu chung ta cho AI vai trò lớn hơn, nó sẽ làm hiệu quả hơn con người. 

25 Đáp án: A

26 Đáp án E

Giải thích câu 25 và 26: Những sự thay đổi như vậy có thể dẫn tới một số người thực hành y khoa (ý nói bác sĩ) không có mức độ thẩm quyền chuyên môn giống như bây giờ. Thông tin này lấy trong đoạn 9 “..we’d be depriving some humans (e.g. senior doctors) of the control they presently enjoy..” tức là chúng ta đang tước quyền của một số người (như các bác sĩ cấp cao) về mức độ kiểm soát mà hiện tại họ đang có.