Появится ли искусственный интеллект, способный нас уничтожить?

Да, появится.

Способности человеческого интеллекта ограничены нашей физиологией, а способности искусственного интеллекта не ограничены ничем. Это значит, что рано или поздно будет создан интеллект, превосходящий человеческий как угодно сильно. Может быть создан интеллект, который настолько же умнее человека, насколько человек умнее муравья.

Такой интеллект, естественно, будет способен нас уничтожить. Такая ситуация многократно обыгрывается в фантастике. В некоторых произведениях искусственный интеллект захватывает власть хитростью, так, что человек не понимает, что происходит. В других историях он помещает человека в райские условия, чтобы тот не сопровлялся. В третьих -- тупо истребляет нас. В четвёртых -- улетает в космос, наплевав на людей. Какая-то из фантастических версий реализуется.

Не факт, что искусственный интеллект будет стремиться нас уничтожить. Живые существа действительно уничтожают друг друга и более умные побеждают. Например, хомо сапиенс уничтожил неандертальцев. Но это сочеталось с конкуренцией за ресурсы, например, за еду, жильё, пространство. Сомнительно, что искусственному интеллекту будет нужно наше жильё или наша еда.