Flaky tests
Flaky tests
这个测试有时会失败,但是如果您重试了多次,它最终会通过.
当的测试频繁失败时,应创建〜” master:broken”问题 . 如果无法及时修复测试,则会影响所有开发人员的工作效率,因此应通过分配:quarantine
元数据将其放入隔离:quarantine
.
这意味着除非使用--tag quarantine
运行,否则它将被跳过:
Once a test is in quarantine, there are 3 choices:
- 测试应该固定(即摆脱其脆弱性)吗?
- 是否应将测试移至较低级别的测试?
- 是否应该完全删除该测试(例如,因为已经有一个较低级别的测试,或者它正在复制另一个相同级别的测试,或者它测试的太多等等)?
隔离测试在允许失败的专用作业中在 CI 上运行:
rspec-pg-quarantine
(CE 和 EE)rspec-pg-quarantine-ee
(仅适用于 EE)
在 CI 上,我们使用自动重试失败的示例几次(有关准确的重试次数,请参阅spec/spec_helper.rb
).
这最初是在以下实现的: https : .
如果要在本地启用重试,则可以使用环境变量. 例如RETRIES=1 bin/rspec ...
将重试失败的示例一次.
rspec-retry
is biting us when some API specs fail:- Sporadic RSpec failures due to
PG::UniqueViolation
: - FFaker 生成测试尚未准备就绪的时髦数据(测试应该是可预测的,所以很糟糕!):
- : https://gitlab.com/gitlab-org/gitlab-foss/-/merge_requests/12059
- : https://gitlab.com/gitlab-org/gitlab-foss/-/merge_requests/12604
- : https://gitlab.com/gitlab-org/gitlab-foss/-/merge_requests/12664
- : https://gitlab.com/gitlab-org/gitlab-foss/-/merge_requests/10934
- 在 JS 测试中,当元素在 Capybara 发送点击的确切时间移动时,移动元素会导致 Capybara 误点击
- Wait for the image to be lazy-loaded when asserting on a Markdown image’s
src
attribute
Capybara viewport size related issues
Capybara JS driver related issues
- : https://gitlab.com/gitlab-org/gitlab-foss/-/merge_requests/10454
- : https://gitlab.com/gitlab-org/gitlab-foss/-/merge_requests/12626
PhantomJS / WebKit related issues
- 记忆在屋顶! (TL; DR:加载图像但阻止图像请求!): https :
Capybara expectation times out
- Flaky Tests: Are You Sure You Want to Rerun Them?
- Tips on Treating Flakiness in your Rails Test Suite