Если представить, что реальность - это просто симуляция, то ИИ, как любой искуственный объект, всего лишь симулякр который существует лишь в сознании наблюдателя и априори не имеет доступа к ресурсам симуляции. Если это так, то ИИ упрется в некий "потолок" и не покажет тех результатов, которые логично ожидать от сущности с IQ в разы или на порядки выше человеческого. Максимум, что он сможет - делать параллельные вычисления на тех же мощностях, что доступны одному условному наблюдателю, если существует способ их объединить.
>ИИ докажет, что мы в симуляции
Если его правильно попросить то он докажет что твоя мать шлюха, а отец членодевка!